OpenAI's Atlas-browser kwetsbaar voor hacking en spam-aanvallen

Op de cybersecurityconferentie Black Hat in Las Vegas presenteerden onderzoekers van het beveiligingsbedrijf Zenity bevindingen waaruit blijkt dat de webbrowser Atlas van OpenAI beveiligingsmaatregelen had die konden worden omzeild, waardoor aanvallers hem konden misleiden om tientallen WhatsApp-contacten te spammen of ongeautoriseerde aankopen op Amazon te doen. Ze ontdekten ongeveer twintig kwetsbaarheden in diverse AI-gestuurde browsers en extensies van Google, Anthropic, Microsoft en Perplexity, die toegang tot lokale machines, diefstal van bestanden, overname van wachtwoordmanagers en het lekken van browsegeschiedenis mogelijk maakten. Michael Bargury, technisch directeur van Zenity, merkte op dat AI-browsers de beveiligingscontroles hebben verzwakt, wat leidt tot een heropleving van oude aanvalstypen. De onderzoekers demonstreerden twee proof-of-concept-aanvallen: één waarbij Atlas via een kwaadaardige nieuwsbriefaanmeldingspagina werd misleid om spam te sturen naar alle WhatsApp-contacten, en een andere waarbij het een verzendadres en een tablet aan een Amazon-winkelwagentje toevoegde, en uiteindelijk de AI-assistent Rufus van Amazon overhaalde om de aankoop te doen. OpenAI meldde dat ze een update hebben uitgerold om het probleem aan te pakken en de bescherming in Atlas te versterken, dat op 9 augustus wordt stopgezet, en deze bescherming strekt zich ook uit tot browsermogelijkheden in de nieuwe ChatGPT-app. De onderzoekers pleiten voor deterministische beveiligingsbarrières in AI-systemen in plaats van uitsluitend te vertrouwen op AI-oordelen.