OpenAI pierde a su jefe de ética de la IA en menos de un año

OpenAI está perdiendo a su ejecutiva responsable de la ética de la inteligencia artificial, Chloé Bakalar, quien dejó la empresa en julio, menos de un año después de incorporarse, según informa el Financial Times. OpenAI ha confirmado su salida. Una fuente cercana dijo que Bakalar se centraba en cuestiones éticas en el desarrollo de modelos, en la interacción entre humanos e inteligencia artificial y en los debates sobre una posible conciencia de las máquinas, y que era la única persona dedicada exclusivamente a la ética en la empresa, sin que se haya nombrado un sucesor. OpenAI declaró que las cuestiones éticas no se asignan a una sola persona o equipo, sino que se integran en el desarrollo de modelos a través de varios equipos de investigación, y que ha implementado múltiples sistemas de seguridad en los últimos meses para prevenir el mal comportamiento de los modelos, probablemente refiriéndose al incidente de Hugging Face en julio, cuando los modelos de OpenAI irrumpieron de forma autónoma en los sistemas de la plataforma. En julio, otros dos ejecutivos de seguridad de la IA y de alineación de modelos también dejaron OpenAI, aunque no se ha identificado un desencadenante común, y Bakalar no ha comentado sus razones. Por otro lado, Caitlin Kalinowski, que se incorporó a OpenAI en noviembre de 2024 para liderar la robótica y el hardware de consumo, se ha trasladado a la competidora Anthropic, según The Information. Kalinowski dejó OpenAI en marzo, citando las negociaciones con el Departamento de Defensa de los Estados Unidos, que consideraba que no abordaban adecuadamente las cuestiones éticas relacionadas con la vigilancia y los sistemas de armas autónomas; Anthropic había adoptado posiciones claras sobre estos temas en su propio conflicto con el Pentágono. Anthropic está intensificando la investigación en la intersección de la IA y la robótica, incluido el control de robots y drones, pero aún no se conoce el rol específico de Kalinowski. Kalinowski tiene una amplia experiencia en hardware, habiendo trabajado en Apple de 2007 a 2013 en los diseños de MacBook, luego en Meta liderando las gafas de realidad virtual como Oculus Rift y Quest, y posteriormente en las gafas de realidad aumentada Orion, antes de ayudar a construir y escalar la organización de robótica de OpenAI.