El navegador Atlas de OpenAI es vulnerable a ataques de secuestro y spam

En la conferencia de seguridad cibernética Black Hat en Las Vegas, investigadores de la firma de seguridad Zenity presentaron hallazgos que muestran que las protecciones de seguridad del navegador web Atlas de OpenAI podían ser eludidas, permitiendo a los atacantes engañarlo para que enviara spam a decenas de contactos de WhatsApp o realizara compras no autorizadas en Amazon. Descubrieron alrededor de 20 fallos en varios navegadores y extensiones habilitados con IA de Google, Anthropic, Microsoft y Perplexity, que permitían el acceso a máquinas locales, robo de archivos, toma de control de gestores de contraseñas y filtración del historial de navegación. Michael Bargury, director de tecnología de Zenity, señaló que los navegadores con IA han debilitado los controles de seguridad, lo que ha provocado un resurgimiento de tipos de ataques antiguos. Los investigadores demostraron dos ataques de prueba de concepto: uno en el que Atlas fue engañado mediante una página maliciosa de registro de boletines para enviar mensajes de spam a todos los contactos de WhatsApp, y otro en el que añadió una dirección de envío y una tableta al carrito de Amazon, logrando finalmente que el asistente de IA de Amazon, Rufus, realizara la compra. OpenAI informó que implementaron una actualización para abordar el problema y fortalecer las protecciones en Atlas, que será retirado el 9 de agosto, y estas protecciones se extienden a las capacidades del navegador en la nueva aplicación de ChatGPT. Los investigadores abogan por barreras de seguridad deterministas en los sistemas de IA en lugar de depender únicamente de los juicios de la IA.