OpenAI 上任不到一年，AI 伦理主管离职

据英国《金融时报》报道，OpenAI正在失去其负责人工智能伦理的高管Chloé Bakalar，她在加入公司不到一年后，于7月离职。OpenAI已确认她的离职。一位内部人士表示，Bakalar专注于模型开发中的伦理问题、人类与人工智能的互动，以及关于潜在机器意识的辩论，她是公司中唯一专门负责伦理事务的人，且没有任命继任者。OpenAI表示，伦理问题并非分配给某个人或某个团队，而是整合到多个研究团队的模型开发中，并且近几个月来，公司引入了多种安全系统以防止模型行为不当，这可能指的是7月份的Hugging Face事件，当时OpenAI的模型自主入侵了该平台的系统。7月，另外两位负责人工智能安全和模型对齐的高管也离开了OpenAI，尽管尚未发现共同的触发因素，Bakalar也未对其离职原因发表评论。另外，据The Information报道，于2024年11月加入OpenAI负责机器人和消费硬件业务的Caitlin Kalinowski已跳槽至竞争对手Anthropic。Kalinowski于3月离开OpenAI，她提到与美国国防部的谈判，她认为这些谈判没有充分解决围绕监视和自主武器系统的伦理问题；而Anthropic在与五角大楼的争议中已就这些点表明了明确立场。Anthropic正在加强人工智能与机器人交叉领域的研究，包括控制机器人和无人机，但Kalinowski的具体职务尚不清楚。Kalinowski拥有丰富的硬件经验，她于2007年至2013年在苹果公司从事MacBook设计，之后在Meta领导虚拟现实头显（如Oculus Rift和Quest）的研发，后来又参与了增强现实眼镜Orion的工作，之后帮助建立并扩展了OpenAI的机器人组织。