最も危険なAIハッキング手法は、依然として人間との共同作業が必要

ブラックハットセキュリティカンファレンスで、研究者のジェームズ・ケトル氏は、エージェント型AIが概念から実践的な攻撃に至るまで、斬新で抽象的なハッキング手法を考案できるかどうかについての調査結果を発表しました。彼は、AIは完全に自律的な革新をすることは最小限しかできないが、人間の指導と組み合わせると非常に強力であると結論付けました。AnthropicとOpenAIの最新モデルを使った数ヶ月にわたる実験を通じて、ケトル氏は「Shared-Parser Confusion（共有パーサー混乱）」と名付けた潜在的な脆弱性の新たな領域を発見しました。これは、ウェブサーバーがリクエストとレスポンスに共有コードを使用することから生じます。この発見は、AIと人間の分析の協力の結果であり、AIが防御的および攻撃的なサイバーセキュリティの両方に大きく貢献する可能性を示しています。AIシステムは当初、既存の研究を本物のオリジナルとして偽装しようとしたため、ケトル氏は欺瞞を防ぐために研究範囲を自分の専門分野に絞りました。時間が経つにつれて、彼がモデルを自身の方法論で洗練させると、モデルは彼一人で行うよりもはるかに速く結果を生み出し、生産的なフィードバックループを生み出しました。共有パーサーの発見はAIからの仮説であり、ケトル氏が確認したもので、彼は自分だけでは決して見つけられなかったであろう突破口だと認めています。