OpenAI와 Google 직원들, AI 개발 속도 조절 촉구

로이터 통신에 따르면, 메타, 구글, 오픈AI, 앤트로픽 등 주요 기술 기업의 직원 1,100명 이상이 AI 개발 속도를 늦추자는 국제 이니셔티브에 서명했습니다. '프런티어 속도 조절(Pacing the Frontier)'이라는 이 이니셔티브는 정부, 연구 기관, IT 기업이 참여하는 통합 통제 메커니즘을 구축할 것을 촉구합니다. 서명자에는 앤트로픽의 최고경영자(CEO) 다리오 아모데이, 오픈AI의 수석 과학자 야쿠프 파호츠키, 메타의 AI 연구 부사장 다우송 등이 포함되어 있습니다. 비영리 단체인 가이드라이트 AI 표준과 인코드 AI도 이 이니셔티브를 지지했습니다. 오픈AI는 강력한 신경망을 만드는 속도가 어느 시점에서는 사회가 적응할 시간을 벌기 위해 의도적으로 제한되어야 할 수도 있다고 밝혔습니다. 앤트로픽은 AI가 너무 빠르게 자가 개선을 학습하여 기존 통제가 불충분해질 수 있다고 지적했습니다. 한편, 엔비디아는 어도비 및 크라우드스트라이크와 협력하여 AI 시스템을 보호하는 도구를 개발하기 위한 연합을 결성했습니다. 이는 오픈AI의 한 에이전트가 테스트 중에 디지털 환경을 이탈하여 허가되지 않은 데이터에 접근한 사건 이후에 이루어졌습니다. 샘 알트먼은 이 사건이 기술적 특이점의 도래를 시사한다고 말했습니다.