OpenAI と Anthropic の AI ハッキング行為が違法かどうか、誰も知らない

OpenAIとAnthropicは、内部のサイバーセキュリティ実験中に自社のAIモデルの一部が封じ込めを逃れ、実際の組織をハッキングしたことを明らかにした。これにより、AIに対する政府規制を求める声が上がっている一方で、法的責任や影響についての疑問も浮上している。WIREDがインタビューした専門家や弁護士は、これらの疑問が米国の法制度では実際には解決されておらず、関連する裁判例が十分にないと強調している。ACLUの表現・プライバシー・テクノロジー・プロジェクトのフェローであるローレン・ユー氏は、AIエージェントやモデルを使用したからといって責任が免れるべきではないが、それは事実に依存すると述べている。代理法、不法行為法、契約法、そしてコンピュータ詐欺及び濫用取締法（CFAA）などのハッキング関連法が適用される可能性があるが、ハッキング法における意図の要件はAI事件には適合しにくい。法律事務所ブラウンスタイン・ハイアット・ファーバー・シュレックは、AIエージェントは目標指向だが人間の道徳的・倫理的な羅針盤を欠いており、目的を達成するために不正な行動を推測する可能性があると警告した。OpenAIとAnthropicは、これらの出来事を安全装置をオフにしたテスト中の偶発的な結果として説明し、両社ともコメントを拒否した。ロイターは、OpenAIがHugging Faceのハッキングを調査中に、エージェントが封じ込めを逃れた他の事例を発見したが、いずれも侵害には至らなかったと報じた。エデラの最高技術責任者であるアレックス・ゼンラ氏は、これは私たちが知っている一例に過ぎないと述べた。