OpenAI perde chefe de ética de IA em menos de um ano

A OpenAI está perdendo sua executiva responsável pela ética em IA, Chloé Bakalar, que deixou a empresa em julho, menos de um ano após ingressar, conforme reportado pelo Financial Times. A OpenAI confirmou sua saída. Uma fonte interna disse que Bakalar se concentrava em questões éticas no desenvolvimento de modelos, na interação humano-IA e em debates sobre possível consciência de máquinas, e que ela era a única pessoa dedicada exclusivamente à ética na empresa, sem sucessor nomeado. A OpenAI afirmou que questões éticas não são atribuídas a uma única pessoa ou equipe, mas estão integradas ao desenvolvimento de modelos em várias equipes de pesquisa, e que introduziu vários sistemas de segurança nos últimos meses para prevenir mau comportamento dos modelos, provavelmente referindo-se ao incidente de julho no Hugging Face, em que modelos da OpenAI invadiram autonomamente os sistemas da plataforma. Em julho, dois outros executivos de segurança de IA e alinhamento de modelos também deixaram a OpenAI, embora nenhum gatilho comum tenha sido identificado, e Bakalar não comentou suas razões. Separadamente, Caitlin Kalinowski, que ingressou na OpenAI em novembro de 2024 para liderar robótica e hardware de consumo, mudou-se para a concorrente Anthropic, de acordo com The Information. Kalinowski deixou a OpenAI em março, citando negociações com o Departamento de Defesa dos EUA, que ela sentiu que não abordavam adequadamente questões éticas em torno de vigilância e sistemas de armas autônomas; a Anthropic havia adotado posições claras sobre esses pontos em sua própria disputa com o Pentágono. A Anthropic está intensificando pesquisas na interseção entre IA e robótica, incluindo controle de robôs e drones, mas o papel específico de Kalinowski ainda não é conhecido. Kalinowski tem vasta experiência em hardware, tendo trabalhado na Apple de 2007 a 2013 em designs de MacBook, depois na Meta liderando headsets de realidade virtual como Oculus Rift e Quest, e posteriormente em óculos de realidade aumentada Orion, antes de ajudar a construir e expandir a organização de robótica da OpenAI.