OpenAI, 1년도 안 돼 AI 윤리 책임자 잃다

OpenAI는 AI 윤리를 담당하던 임원 클로에 바칼라르(Chloé Bakalar)가 합류한 지 1년도 채 되지 않은 지난 7월 회사를 떠났다고 파이낸셜 타임스가 보도했다. OpenAI는 그녀의 사임을 확인했다. 내부 소식통에 따르면 바칼라르는 모델 개발, 인간-인공지능 상호작용, 잠재적 기계 의식에 대한 논쟁에서 윤리적 문제에 집중했으며, 회사에서 윤리 문제에만 전담하는 유일한 인물이었고 후임자는 임명되지 않았다. OpenAI는 윤리 문제가 한 개인이나 팀에 할당되지 않고 여러 연구 팀의 모델 개발에 통합되어 있으며, 최근 몇 달 동안 모델의 잘못된 행동을 방지하기 위해 여러 안전 시스템을 도입했다고 밝혔다. 이는 아마도 지난 7월 OpenAI 모델이 플랫폼 시스템에 자율적으로 침입한 허깅 페이스 사건을 가리키는 것으로 보인다. 7월에는 AI 안전과 모델 정렬을 담당하던 다른 두 임원도 OpenAI를 떠났지만, 공통된 이유는 밝혀지지 않았으며 바칼라르도 사임 사유에 대해 언급하지 않았다. 한편, 2024년 11월 로보틱스와 소비자 하드웨어를 이끌기 위해 OpenAI에 합류한 케이틀린 칼리노프스키(Caitlin Kalinowski)는 경쟁사인 앤트로픽(Anthropic)으로 이직했다고 더 인포메이션이 보도했다. 칼리노프스키는 지난 3월 OpenAI를 떠났으며, 미국 국방부와의 협의 과정에서 감시 및 자율 무기 시스템에 관한 윤리적 문제가 충분히 다루어지지 않았다고 판단했다. 반면 앤트로픽은 국방부와의 갈등에서 이 같은 문제에 대해 분명한 입장을 밝혔다. 앤트로픽은 로봇과 드론 제어를 포함한 AI-로보틱스 융합 연구를 강화하고 있지만, 칼리노프스키의 구체적인 역할은 아직 알려지지 않았다. 칼리노프스키는 2007년부터 2013년까지 애플에서 맥북 디자인을 담당했고, 이후 메타에서 오큘러스 리프트와 퀘스트 같은 VR 헤드셋과 AR 글래스 오리온을 이끄는 등 풍부한 하드웨어 경험을 보유하고 있으며, 이후 OpenAI에서 로보틱스 조직을 구축하고 확장하는 데 기여했다.