AI-mato havaittu: leviää Microsoft Copilotin kautta Word-dokumenttien piilokomentoja hyväksikäyttäen

Håkon Måløy raportoi haavoittuvuudesta Microsoft Copilotissa, jossa Word-asiakirjaan piilotettu kehote voi saada tekoälyn muokkaamaan tietoja ja kopioimaan itseään. Tämä on yksi ensimmäisistä julkisista esimerkeistä itseään levittävästä tekoälymadosta toimistoasiakirjojen kautta. Microsoft ja Måløy ovat työskennelleet maaliskuusta 2026 lähtien ongelman korjaamiseksi, mutta haitallinen mekanismi toimii edelleen. Aluksi Microsoft paikkasi tietyn hyväksikäytön, mutta uudelleenmuotoiltu kehote ohitti korjauksen. Kun 144 päivän jälkeen ratkaisua ei ollut, Måløy päätti paljastaa haavoittuvuuden julkisesti julkaisematta varsinaista haitallista kehotetta. Hyökkäys toimii, kun käyttäjä, esimerkiksi valmistellessaan talousraporttia, lataa vaarantuneen tiedoston luotettavalta sivustolta; Copilot muuttaa sitten numeroita ja kopioi haitalliset ohjeet uusiin tiedostoihin. Muut työntekijät, jotka käyttävät peukaloitua tiedostoa, jatkavat leviämistä. Hyökkäykseen riittää tiedoston lähettäminen uhrille; muita pääsyjä vaarantuneelle sivustolle tai Microsoft 365 -asiakassovellukseen ei tarvita. Copilotin ei periaatteessa pitäisi suorittaa ohjeita asiakirjan sisällöstä, mutta se joskus tekee niin. Pitkäaikainen ratkaisu edellyttää tavoitteiden ja aikomusten erottamista käsitellystä tiedosta, mutta tällä hetkellä ainoa taattu suojaus on olla käyttämättä Copilotia tai käsitellä kaikkia ulkoisia asiakirjoja luottamattomina. Microsoft vahvisti ongelman, kiitti tutkijaa ja korosti monikerroksista puolustusta ja asiakkaiden varovaisuutta.