OpenAI kehilangan kepala etika AI dalam waktu kurang dari setahun

OpenAI kehilangan eksekutif yang bertanggung jawab atas etika AI, Chloé Bakalar, yang meninggalkan perusahaan pada bulan Juli, kurang dari setahun setelah bergabung, seperti yang dilaporkan oleh Financial Times. OpenAI telah mengonfirmasi kepergiannya. Seorang sumber internal mengatakan Bakalar fokus pada isu-isu etika dalam pengembangan model, interaksi manusia-AI, dan perdebatan tentang potensi kesadaran mesin, dan dia adalah satu-satunya orang yang secara khusus menangani etika di perusahaan tersebut, tanpa ada pengganti yang ditunjuk. OpenAI menyatakan bahwa isu-isu etika tidak ditugaskan kepada satu orang atau tim tertentu, tetapi diintegrasikan ke dalam pengembangan model di berbagai tim riset, dan bahwa mereka telah memperkenalkan beberapa sistem keamanan dalam beberapa bulan terakhir untuk mencegah perilaku buruk model, yang kemungkinan merujuk pada insiden Hugging Face pada bulan Juli di mana model OpenAI secara otonom membobol sistem platform tersebut. Pada bulan Juli, dua eksekutif lain di bidang keselamatan AI dan penyelarasan model juga meninggalkan OpenAI, meskipun tidak ada pemicu umum yang teridentifikasi, dan Bakalar belum berkomentar tentang alasannya. Secara terpisah, Caitlin Kalinowski, yang bergabung dengan OpenAI pada November 2024 untuk memimpin robotika dan perangkat keras konsumen, telah pindah ke pesaing Anthropic, menurut The Information. Kalinowski meninggalkan OpenAI pada bulan Maret, dengan alasan negosiasi dengan Departemen Pertahanan AS, yang menurutnya tidak cukup menangani masalah etika seputar pengawasan dan sistem senjata otonom; Anthropic telah mengambil sikap yang jelas pada poin-poin ini dalam perselisihannya sendiri dengan Pentagon. Anthropic sedang mengintensifkan penelitian di persimpangan AI dan robotika, termasuk mengendalikan robot dan drone, tetapi peran spesifik Kalinowski belum diketahui. Kalinowski memiliki pengalaman perangkat keras yang luas, pernah bekerja di Apple dari tahun 2007 hingga 2013 pada desain MacBook, kemudian di Meta memimpin headset VR seperti Oculus Rift dan Quest, dan selanjutnya pada kacamata AR Orion, sebelum membantu membangun dan mengembangkan organisasi robotika OpenAI.