Navegador Atlas da OpenAI Vulnerável a Sequestro e Ataques de Spam

Na conferência de segurança cibernética Black Hat, em Las Vegas, pesquisadores da empresa de segurança Zenity apresentaram descobertas mostrando que o navegador web Atlas, da OpenAI, tinha proteções de segurança que podiam ser contornadas, permitindo que atacantes o enganassem para enviar spam para dezenas de contatos do WhatsApp ou fazer compras não autorizadas na Amazon. Eles descobriram cerca de 20 falhas em diversos navegadores e extensões habilitados para IA da Google, Anthropic, Microsoft e Perplexity, que permitiam acesso a máquinas locais, roubo de arquivos, assumir o controle de gerenciadores de senhas e vazar histórico de navegação. Michael Bargury, diretor de tecnologia da Zenity, observou que os navegadores com IA enfraqueceram os controles de segurança, levando a um ressurgimento de tipos antigos de ataques. Os pesquisadores demonstraram dois ataques de prova de conceito: um em que o Atlas foi enganado por meio de uma página maliciosa de inscrição em newsletter para enviar mensagens de spam para todos os contatos do WhatsApp, e outro em que ele adicionou um endereço de entrega e um tablet ao carrinho da Amazon, eventualmente fazendo o assistente de IA da Amazon, Rufus, concluir a compra. A OpenAI relatou que implementou uma atualização para resolver o problema e reforçar as proteções no Atlas, que será descontinuado em 9 de agosto, e essas proteções se estendem aos recursos do navegador no novo aplicativo ChatGPT. Os pesquisadores defendem barreiras de segurança determinísticas em sistemas de IA, em vez de depender apenas dos julgamentos da IA.