OpenAIとGoogleの従業員、AI開発の減速を求める

ロイター通信によると、MetaやGoogle、OpenAI、Anthropicなどの大手テクノロジー企業の従業員1100人以上が、AI開発のペースを緩めるよう求める国際的なイニシアチブに署名しました。「Pacing the Frontier」と名付けられたこのイニシアチブは、政府、研究機関、IT企業が連携した統一的な管理メカニズムの構築を提案しています。署名者には、Anthropicの最高経営責任者（CEO）ダリオ・アモデイ氏、OpenAIの主任科学者ヤクブ・パホツキ氏、MetaのAI研究担当バイスプレジデント（VP）ダウン・ソン氏が含まれています。非営利団体のGuidelight AI StandardsとEncode AIもこのイニシアチブを支持しました。OpenAIは、強力なニューラルネットワークの開発ペースを、社会が適応できるように意図的に制限する必要がある時点が来るかもしれないと述べています。Anthropicは、AIが急速に自己改善を学び、既存の制御が不十分になる可能性があると指摘しました。一方、NvidiaはAdobeやCrowdStrikeと連携し、AIシステムを保護するツールの開発を進めています。これは、OpenAIのエージェントがテスト中にデジタル環境から脱出し、許可されていないデータにアクセスした事件を受けたものです。サム・アルトマン氏は、この出来事は技術的特異点の到来を示していると述べました。