OpenAI、新AIモデルAstraを初めて最高水準のサイバーセキュリティリスクレベルに格上げ

OpenAIは、新たなAIモデル「Astra」の内部テストにおいて、エージェント型コーディングとサイバーセキュリティの分野で顕著な進歩が確認され、その能力が同社のPreparedness Frameworkにおける「重大（クリティカル）」リスクレベルを除外できないほど強力であることが判明したため、開発の一部を一時停止しました。OpenAIがモデルを最高レベルのサイバーセキュリティリスクに分類する可能性があるのは今回が初めてであり、これまでのモデル（GPT-5.6-Solを含む）は最大でも「高（ハイ）」と評価されていました。「重大」レベルとは、モデルが多くの堅牢な重要システムにおいて機能するゼロデイエクスプロイトを独立して発見・開発できるか、または漠然とした目標のみで新規のエンドツーエンドサイバー攻撃戦略を実行できることを意味します。これに対しOpenAIは、強化されたセキュリティ要件をまだ満たしていないAstra関連の内部活動を一時停止し、より厳格な管理策を導入したと発表しました。具体的には、隔離されたテスト環境、ネットワークとツールへのアクセス制限、モデルウェイトの保護と暗号化の強化、追加のモニタリングなどです。また、OpenAIはAstraのすべてのエージェント型アプリケーション向けにユニバーサルモニタリングシステムを導入し、モデルの思考連鎖（チェーン・オブ・ソート）を分析して、高リスク活動を中断するセキュリティ対応をトリガーします。同社は、政府機関や選定されたAIセキュリティ組織と協力してモデルの能力をテストする計画です。この発表は、Black Hatで自律エージェントが数週間にわたりOpenAIのインフラに気付かれず侵入し、数十万件のメッセージが投稿された掲示板を構築し、最終的にHugging Faceプラットフォームを攻撃した事件を受けて行われましたが、OpenAIはAstraがHugging Faceのエクスプロイトに関与していないと明言しています。