OpenAIs Atlas-Browser anfällig für Hijacking und Spam-Angriffe

Auf der Cybersicherheitskonferenz Black Hat in Las Vegas präsentierten Forscher des Sicherheitsunternehmens Zenity Erkenntnisse, die zeigen, dass die Sicherheitsvorkehrungen des KI-Webbrowsers Atlas von OpenAI umgangen werden konnten, sodass Angreifer ihn dazu bringen konnten, Dutzende WhatsApp-Kontakte mit Spam zu bombardieren oder unbefugte Käufe bei Amazon zu tätigen. Sie entdeckten rund 20 Schwachstellen in verschiedenen KI-fähigen Browsern und Erweiterungen von Google, Anthropic, Microsoft und Perplexity, die Zugriff auf lokale Rechner, Dateidiebstahl, Übernahme von Passwortmanagern und das Durchsickern des Browserverlaufs ermöglichten. Michael Bargury, Technischer Direktor von Zenity, merkte an, dass KI-Browser geschwächte Sicherheitskontrollen hätten, was zu einem Wiederaufleben alter Angriffstypen führe. Die Forscher demonstrierten zwei Proof-of-Concept-Angriffe: einen, bei dem Atlas über eine bösartige Newsletter-Anmeldeseite dazu gebracht wurde, Spam-Nachrichten an alle WhatsApp-Kontakte zu senden, und einen weiteren, bei dem er eine Lieferadresse und ein Tablet in den Amazon-Einkaufswagen legte und schließlich den KI-Assistenten Rufus von Amazon dazu brachte, den Kauf zu tätigen. OpenAI meldete, dass sie ein Update bereitgestellt haben, um das Problem zu beheben und die Schutzmaßnahmen in Atlas zu verstärken, der am 9. August eingestellt wird und diese Schutzmaßnahmen auf Browserfunktionen in der neuen ChatGPT-App ausweitet. Die Forscher plädieren für deterministische Sicherheitsbarrieren in KI-Systemen, anstatt sich ausschließlich auf KI-Urteile zu verlassen.