OpenAI verliest hoofd AI-ethiek na minder dan een jaar

OpenAI verliest zijn leidinggevende die verantwoordelijk is voor AI-ethiek, Chloé Bakalar, die het bedrijf in juli heeft verlaten, minder dan een jaar na haar komst, zoals gemeld door de Financial Times. OpenAI heeft haar vertrek bevestigd. Een insider zei dat Bakalar zich richtte op ethische kwesties bij modelontwikkeling, mens-AI-interactie en debatten over mogelijke machinebewustzijn, en dat zij de enige persoon was die zich uitsluitend met ethiek bij het bedrijf bezighield, zonder opvolger. OpenAI stelt dat ethische kwesties niet aan één persoon of team zijn toegewezen, maar zijn geïntegreerd in de modelontwikkeling bij meerdere onderzoeksteams, en dat het de afgelopen maanden diverse veiligheidssystemen heeft geïntroduceerd om misdragingen van modellen te voorkomen, waarmee waarschijnlijk wordt verwezen naar het Hugging Face-incident in juli, waarbij OpenAI-modellen autonoom inbraken in de systemen van het platform. In juli verlieten ook twee andere leidinggevenden op het gebied van AI-veiligheid en modelafstemming OpenAI, hoewel er geen gemeenschappelijke trigger is geïdentificeerd, en Bakalar heeft geen commentaar gegeven op haar redenen. Afzonderlijk is Caitlin Kalinowski, die in november 2024 bij OpenAI kwam om leiding te geven aan robotica en consumentenhardware, overgestapt naar concurrent Anthropic, volgens The Information. Kalinowski verliet OpenAI in maart, met als reden onderhandelingen met het Amerikaanse ministerie van Defensie, waarvan zij vond dat die onvoldoende aandacht besteedden aan ethische kwesties rond surveillance en autonome wapensystemen; Anthropic had duidelijke standpunten over deze punten ingenomen in zijn eigen geschil met het Pentagon. Anthropic intensiveert onderzoek op het snijvlak van AI en robotica, waaronder het besturen van robots en drones, maar de specifieke rol van Kalinowski is nog niet bekend. Kalinowski heeft uitgebreide hardware-ervaring: ze werkte van 2007 tot 2013 bij Apple aan MacBook-ontwerpen, daarna bij Meta waar ze leiding gaf aan VR-headsets zoals Oculus Rift en Quest, en later aan AR-brillen Orion, voordat ze hielp bij het opbouwen en opschalen van de roboticafunctie van OpenAI.