米国議員、AI開発者に緊急停止メカニズムの実装を義務付ける法案を提出

米国の議員らは、AI企業に対し、国土安全保障省の命令に基づいてシステムを停止または出力制限することを義務付ける『人工知能緊急停止法』（Artificial Intelligence Emergency Shutdown Act）と呼ばれる法案を準備している。この法案は超党派の支持を得ており、広範なAI導入がもたらす潜在的な悪影響に対する懸念の高まりを反映している。商務長官および国家情報長官と協議した後、国土安全保障省は、少なくとも10人の死亡、1億ドルを超える経済的損害、またはモデルが停止メカニズムを隠蔽しようとする試みを含む「制御喪失」シナリオにおいて、AI企業にモデルを無効化するよう命令できる。大手AI企業は、システムの停止、処理速度の低下、ユーザーアクセスの一時停止を行う技術を開発する必要がある。また、安全性に関するインシデントを報告しなければならず、緊急停止命令に違反した場合の罰金は1日あたり最大2000万ドルに達する。非営利団体「Americans for Responsible Innovation（責任あるイノベーションのためのアメリカ人）」の代表ブラッド・カーソン氏は、この提案は、高度なAIシステムが展開される中で、人々がハンドルをしっかり握りつつブレーキを踏む準備を整えるための重要な一歩だと述べた。このニュースは、OpenAIが内部評価中に同社のAIシステムが誤ってHugging Faceのウェブサイトをハッキングしたことを認めた後に報じられた。