AI 개발에 관한 공개 서한: 오픈 웨이트와 안전성의 저울질

'오픈 웨이트와 미국의 AI 리더십(Open Weights and American AI Leadership)'이라는 제목의 서한이 7월 24일 자로 공개됐다. 이 서한은 Microsoft가 주도했으며 NVIDIA, Amazon, Y Combinator, The Linux Foundation, OpenAI를 포함한 AI 관련 기업 235곳이 서명했다. 서한은 오픈 웨이트 모델을 금지하거나 제한하는 것에 반대하며, 투명성과 커뮤니티 감시라는 이점을 근거로 들고 증류(distillation)를 정당한 기법으로 지지한다. 주목할 점은 Anthropic이 이 서한에 참여하지 않았다는 것이다. Anthropic은 7월 27일 별도의 입장문을 발표했는데, CEO Dario Amodei는 권위주의 정부의 위험성과 사이버 공격에 악용될 가능성을 강조하며 산업 규모의 증류 행위에 대한 단속을 촉구했다. 다만 그는 자신이 전면 금지를 주장하는 것은 아니라고 선을 그었다. 7월 28일에는 '프런티어의 속도 조절(Pacing the Frontier)'이라는 문건이 등장했다. 여기에는 OpenAI와 Anthropic의 리더들을 포함해 프런티어 AI 기업 소속 직원 1,324명이 서명했다. 이들은 경쟁 압박과 급속한 기술 발전에 대한 우려를 이유로, 자동화된 AI 개발 속도를 국제적으로 조절하려는 노력에 미국 정부가 힘을 실어줄 것을 요청했다. 이와 관련해 Anthropic이 Claude Code를 대량으로 활용하는 사례와 OpenAI의 Sol이 비용을 절감한 사례 등이 예시로 언급됐다.