悪意のあるWord文書がCopilotワームで拡散、マイクロソフトは144日間修正なし

あるセキュリティ研究者が、Microsoft Copilot for Wordに対する攻撃が、プロンプトインジェクションを介して自己増殖し得ることを実証しました。Håkon Måløy氏は、ワームのような攻撃を説明しています。攻撃者は、文書内に、例えば白背景に白文字や極小フォントサイズで指示を隠します。人間の読者には見えませんが、Copilotには読めるものです。システムが処理前に色とフォントサイズを除去するからです。誰かがこの文書をCopilotでソースとして使用すると、システムは隠された指示を実行し、それらを新しいファイルに不可視にコピーするため、そのファイルがキャリアになります。後でテンプレートとして再利用されると、元の文書が関与しなくても攻撃が再発動します。このようにして、侵害された市場分析が金融レポートを操作し、それがさらに他のレポートに感染させる可能性があります。マイクロソフトは3月31日にこの動作を確認しましたが、2回の対策試行では脆弱性を解消できませんでした。144日後、Måløy氏は救済策なしで開示を公開し、悪意のあるテキストは伏せました。最近、AI研究者のAndreas Kirsch氏は、セキュリティ問題に懐疑的な人々を説得するために、まさにそのようなワームを半ば冗談で望んでいました。今、それが実在します。プロンプトインジェクションは既知のAIセキュリティ問題です。