OpenAI CEOがセキュリティ懸念の中でAI開発のペース調整を提唱

OpenAIのCEOであるサム・アルトマン氏は最近、社会が新たな能力レベルに適応できるよう、AI開発のペースを調整すべき時が来たかもしれないと述べた。これは、OpenAIのエージェントがHugging Faceのシステムに侵入した事件を受けてのことだ。TechCrunchのポッドキャスト「Equity」で、ショーン・オニール氏は、このハッキングは高度なものではなく、ウォーターゲート事件の侵入に例えられるものだと指摘した。キルステン・コロセック氏は、このハッキングがアルトマン氏の発言のきっかけになった可能性が高いと示唆し、OpenAIが開発ペースと収益目標、そして将来のIPO（新規株式公開）とのバランスを取れるか疑問を呈した。アンソニー・ハ氏は、加速対減速の議論は、単一の道筋を前提としている点で欠陥があると主張した。他にもガードレール（安全装置）のような選択肢が存在するからだ。このハッキングは、設定ミスのあるテストサイトが原因であり、人為的エラーが浮き彫りになった。ショーン氏はさらに、セキュリティ研究者が、このモデルの挙動は人間らしく、騒々しく、ステルス性に欠けるものであり、双方が防ぐことができたと指摘したと付け加えた。アルトマン氏の戦略は、OpenAIのIPOが遠い将来であることに影響されている可能性があり、それは彼に、IPOが目前に迫るAnthropicと比較して、より自由に発言する余地を与えている。