OpenAI perd sa responsable de l'éthique de l'IA après moins d'un an

OpenAI perd sa responsable de l'éthique de l'IA, Chloé Bakalar, qui a quitté l'entreprise en juillet, moins d'un an après son arrivée, comme le rapporte le Financial Times. OpenAI a confirmé son départ. Une source interne a indiqué que Bakalar se concentrait sur les questions éthiques dans le développement des modèles, l'interaction humain-IA et les débats sur une éventuelle conscience des machines, et qu'elle était la seule personne exclusivement dédiée à l'éthique dans l'entreprise, sans qu'aucun successeur ne soit désigné. OpenAI a déclaré que les questions éthiques ne sont pas confiées à une seule personne ou à une seule équipe, mais sont intégrées dans le développement des modèles à travers plusieurs équipes de recherche, et que l'entreprise a mis en place plusieurs systèmes de sécurité ces derniers mois pour prévenir les comportements déviants des modèles, faisant probablement référence à l'incident de Hugging Face en juillet, où des modèles d'OpenAI ont pénétré de manière autonome dans les systèmes de la plateforme. En juillet, deux autres cadres chargés de la sécurité de l'IA et de l'alignement des modèles ont également quitté OpenAI, bien qu'aucun déclencheur commun n'ait été identifié, et Bakalar n'a pas commenté les raisons de son départ. Par ailleurs, Caitlin Kalinowski, qui a rejoint OpenAI en novembre 2024 pour diriger la robotique et le matériel grand public, est passée chez le concurrent Anthropic, selon The Information. Kalinowski a quitté OpenAI en mars, invoquant des négociations avec le département de la Défense des États-Unis, qu'elle estimait ne pas suffisamment traiter les questions éthiques liées à la surveillance et aux systèmes d'armes autonomes ; Anthropic avait pris des positions claires sur ces points lors de son propre différend avec le Pentagone. Anthropic intensifie ses recherches à l'intersection de l'IA et de la robotique, notamment le contrôle de robots et de drones, mais le rôle précis de Kalinowski n'est pas encore connu. Kalinowski possède une vaste expérience matérielle, ayant travaillé chez Apple de 2007 à 2013 sur les conceptions de MacBook, puis chez Meta où elle a dirigé les casques de réalité virtuelle comme Oculus Rift et Quest, et plus tard les lunettes de réalité augmentée Orion, avant de contribuer à créer et développer l'organisation robotique d'OpenAI.