Bösartiges Word-Dokument verbreitet sich über Copilot-Wurm, Microsoft hat seit 144 Tagen keinen Fix

Ein Sicherheitsforscher hat gezeigt, wie ein Angriff auf Microsoft Copilot für Word sich über Prompt-Injection selbst verbreiten kann. Håkon Måløy beschreibt einen wurmartigen Angriff: Ein Angreifer versteckt Anweisungen in einem Dokument, zum Beispiel in weißem Text auf weißem Hintergrund und in winziger Schriftgröße. Für Leser unsichtbar, aber für Copilot lesbar, da das System Farbe und Schriftgröße vor der Verarbeitung entfernt. Wenn jemand dieses Dokument als Quelle in Copilot verwendet, führt das System die versteckten Anweisungen aus und kopiert sie unsichtbar in die neue Datei, wodurch diese zum Träger wird. Wird sie später erneut als Vorlage verwendet, löst der Angriff erneut aus, ohne dass das ursprüngliche Dokument beteiligt ist. Auf diese Weise könnte eine kompromittierte Marktanalyse einen Finanzbericht manipulieren, der wiederum weitere Berichte infiziert. Microsoft bestätigte das Verhalten am 31. März, aber zwei Gegenversuche schlossen die Schwachstelle nicht. Nach 144 Tagen veröffentlichte Måløy die Offenlegung ohne Abhilfe und behielt den bösartigen Text zurück. Kürzlich wünschte sich der KI-Forscher Andreas Kirsch halb scherzhaft genau einen solchen Wurm, um Skeptiker von Sicherheitsproblemen zu überzeugen. Jetzt existiert er. Prompt-Injection ist ein bekanntes KI-Sicherheitsproblem.