Le navigateur Atlas d'OpenAI vulnérable au détournement et aux attaques de spam

Lors de la conférence sur la sécurité informatique Black Hat à Las Vegas, des chercheurs de la société de sécurité Zenity ont présenté des conclusions montrant que le navigateur web Atlas d'OpenAI présentait des protections de sécurité qui pouvaient être contournées, permettant à des attaquants de le piéger pour qu'il envoie des messages indésirables à des dizaines de contacts WhatsApp ou effectue des achats non autorisés sur Amazon. Ils ont découvert environ vingt failles dans divers navigateurs et extensions basés sur l'intelligence artificielle, provenant de Google, Anthropic, Microsoft et Perplexity, qui permettaient d'accéder à des machines locales, de voler des fichiers, de prendre le contrôle de gestionnaires de mots de passe et de divulguer l'historique de navigation. Michael Bargury, directeur technique de Zenity, a noté que les navigateurs basés sur l'IA ont affaibli les contrôles de sécurité, entraînant une résurgence d'anciens types d'attaques. Les chercheurs ont démontré deux attaques de preuve de concept : l'une où Atlas a été piégé via une page d'inscription à une newsletter malveillante pour envoyer des messages indésirables à tous les contacts WhatsApp, et une autre où il a ajouté une adresse de livraison et une tablette au panier Amazon, obtenant finalement que l'assistant IA d'Amazon, Rufus, effectue l'achat. OpenAI a signalé qu'ils ont déployé une mise à jour pour résoudre le problème et renforcer les protections dans Atlas, qui sera retiré le 9 août, et ces protections s'étendent aux capacités du navigateur dans la nouvelle application ChatGPT. Les chercheurs plaident en faveur de barrières de sécurité déterministes dans les systèmes d'IA plutôt que de se fier uniquement aux jugements de l'IA.