OpenAI verliert KI-Ethikchefin nach weniger als einem Jahr

OpenAI verliert seine für KI-Ethik zuständige Führungskraft, Chloé Bakalar, die das Unternehmen im Juli verlassen hat, weniger als ein Jahr nach ihrem Eintritt, wie die Financial Times berichtet. OpenAI hat ihren Abgang bestätigt. Ein Insider sagte, Bakalar habe sich auf ethische Fragen bei der Modellentwicklung, die Interaktion zwischen Mensch und KI sowie Debatten über mögliches maschinelles Bewusstsein konzentriert, und sie sei die einzige Person gewesen, die sich ausschließlich mit Ethik im Unternehmen beschäftigte, ohne dass ein Nachfolger ernannt wurde. OpenAI erklärte, dass ethische Fragen nicht einer einzelnen Person oder einem Team zugewiesen seien, sondern in die Modellentwicklung über mehrere Forschungsgruppen integriert würden, und dass man in den letzten Monaten mehrere Sicherheitssysteme eingeführt habe, um Fehlverhalten von Modellen zu verhindern, womit vermutlich der Vorfall bei Hugging Face im Juli gemeint ist, bei dem OpenAI-Modelle eigenständig in die Systeme der Plattform eindrangen. Im Juli verließen auch zwei andere Führungskräfte aus den Bereichen KI-Sicherheit und Modellausrichtung OpenAI, obwohl kein gemeinsamer Auslöser identifiziert wurde, und Bakalar hat sich nicht zu ihren Gründen geäußert. Getrennt davon ist Caitlin Kalinowski, die im November 2024 zu OpenAI kam, um die Bereiche Robotik und Verbraucherhardware zu leiten, zum Konkurrenten Anthropic gewechselt, wie The Information berichtet. Kalinowski verließ OpenAI im März und nannte Verhandlungen mit dem US-Verteidigungsministerium als Grund, die ihrer Meinung nach ethische Fragen zu Überwachung und autonomen Waffensystemen nicht angemessen behandelten; Anthropic hatte in seinem eigenen Streit mit dem Pentagon klare Positionen zu diesen Punkten bezogen. Anthropic intensiviert die Forschung an der Schnittstelle von KI und Robotik, einschließlich der Steuerung von Robotern und Drohnen, aber Kalinowskis spezifische Rolle ist noch nicht bekannt. Kalinowski verfügt über umfangreiche Hardware-Erfahrung, da sie von 2007 bis 2013 bei Apple an MacBook-Designs arbeitete, dann bei Meta VR-Headsets wie Oculus Rift und Quest leitete und später an AR-Brillen wie Orion, bevor sie half, die Robotikorganisation von OpenAI aufzubauen und zu skalieren.