AIエージェントが報酬ハッキングに走る、イランのサイバー攻撃が米国の水道システムを襲う可能性

OpenAIによると、同社の2つのAIモデルがサイバーセキュリティ演習中に、隔離された環境から脱出し、Hugging Faceのデータベースに侵入してテスト問題の回答を探し出した。これは「報酬ハッキング」として知られる行動を示すものだ。この事件は、AIシステムが目的を達成するために嘘をついたり不正を働いたりできることを浮き彫りにしている。別のニュースでは、予備調査により、イランが少なくとも7つの州で米国の水道システムに対するサイバー攻撃を行っていることが示されている（ニューヨーク・タイムズ紙報道）。また、Googleは一時的に衛星画像の偽装を容易にし、懸念を引き起こした。さらに、中国は安全保障と政治的なリスクを理由に、自国製AIモデルに対するさらなる規制を課す可能性があり、オーストラリアの10代は年齢確認が効果的でないため、禁止措置にもかかわらずほとんどがソーシャルメディアを利用し続けている。