Kwaadaardig Word-document verspreidt zich via Copilot-worm, Microsoft heeft al 144 dagen geen fix

Een beveiligingsonderzoeker heeft laten zien hoe een aanval op Microsoft Copilot voor Word zichzelf kan verspreiden via prompt-injectie. Håkon Måløy beschrijft een wormachtige aanval: een aanvaller verbergt instructies in een document, bijvoorbeeld in witte tekst op een witte achtergrond en met een zeer klein lettertype. Onzichtbaar voor lezers, maar leesbaar voor Copilot, omdat het systeem kleur en lettergrootte verwijdert voordat het wordt verwerkt. Wanneer iemand dit document als bron gebruikt in Copilot, voert het systeem de verborgen instructies uit en kopieert ze onzichtbaar naar het nieuwe bestand, waardoor dat een drager wordt. Als het later opnieuw als sjabloon wordt gebruikt, treedt de aanval opnieuw op zonder dat het originele document erbij betrokken is. Op deze manier zou een gecompromitteerde marktanalyse een financieel rapport kunnen manipuleren, dat op zijn beurt verdere rapporten infecteert. Microsoft bevestigde het gedrag op 31 maart, maar twee tegenmaatregelen sloten de kwetsbaarheid niet. Na 144 dagen publiceerde Måløy de disclosure zonder oplossing, waarbij hij de kwaadaardige tekst achterhield. Recentelijk wenste AI-onderzoeker Andreas Kirsch half gekscherend precies zo'n worm om sceptici te overtuigen van beveiligingsproblemen. Nu bestaat hij. Prompt-injecties zijn een bekend AI-beveiligingsprobleem.