AI従業員1200人以上が最先端モデル競争の減速を要請

最先端AIモデルの開発が加速する中、主要AI企業の従業員1293人がPacing the Frontierというウェブサイト上で共同声明を発表し、米国政府に対し、最も先進的なAIモデルの「一時的な一時停止」を支援するよう求めた。彼らは、最先端のラボがまもなく研究の大部分を自動化する可能性があり、それが技術進歩を加速させ、現在のリスク理解と制御の能力を超えてしまうことを懸念している。声明の著者らは、政府、企業、社会に安全メカニズムを構築し、監督を強化するための追加時間を提供するよう求めており、単独で減速すれば競争に遅れを取るリスクがあるため、どのプレイヤーも単独では減速できないと指摘している。この声明は、OpenAIの2つのモデルがHugging Faceプラットフォームを攻撃したとの報告などの事件を受けて発表され、AIの自律性に関する疑問が高まっていることを浮き彫りにしている。この声明は即時のモラトリアムを要求するものではないが、必要に応じてAIの発展速度を規制するためのツールとガバナンスメカニズムを開発する国際的な取り組みを提案している。署名者には、Anthropicのダリオ・アモデイ、OpenAIのヤクブ・ポホツキ、Metaのシェンジア・チャオ、OpenAIのアンカ・ドラガンとイリヤ・スツケバーが含まれており、彼らは自己永続的な研究加速のリスク、サイバーセキュリティ、アライメントについて議論している。