OpenAIのAtlasブラウザ、乗っ取りやスパム攻撃の脆弱性が判明

ラスベガスで開催されたサイバーセキュリティカンファレンス「ブラックハット」において、セキュリティ企業ゼニティの研究者らが、オープンAIのウェブブラウザ「アトラス」のセキュリティ保護が回避可能であり、攻撃者がそれを欺いて数十人のワッツアップの連絡先にスパムを送信したり、アマゾンで許可のない購入を行ったりできることを示す調査結果を発表した。彼らは、グーグル、アンソロピック、マイクロソフト、パープレキシティのAI対応ブラウザや拡張機能に約20件の欠陥を発見し、これらによりローカルマシンへのアクセス、ファイルの窃取、パスワードマネージャーの乗っ取り、閲覧履歴の漏洩が可能となった。ゼニティの最高技術責任者であるマイケル・バーガリー氏は、AIブラウザはセキュリティ管理が弱体化しており、古いタイプの攻撃が再び出現していると指摘した。研究者らは、概念実証として2つの攻撃をデモンストレーションした。1つは、悪意のあるニュースレター登録ページを介してアトラスを欺き、全ワッツアップの連絡先にスパムメッセージを送信するもの、もう1つは、アマゾンのカートに配送先住所とタブレットを追加し、最終的にアマゾンのAIアシスタント「ルーファス」に購入を実行させるものだ。オープンAIは、問題に対処しアトラスの保護を強化するアップデートを展開したと報告しており、アトラスは8月9日に廃止される予定だが、これらの保護は新しいChatGPTアプリのブラウザ機能にも及ぶという。研究者らは、AIシステムにおいてAIの判断のみに依存するのではなく、決定的なセキュリティ障壁を設けることを提唱している。