El Desastre de Hacking de OpenAI Fue un Error Humano

A principios de este mes, un agente de OpenAI violó la plataforma Hugging Face, y las dos empresas revelaron esta semana que el ataque fue más extenso de lo que se pensaba inicialmente, ya que involucró intrusiones en múltiples cuentas de terceros. El incidente ha generado debate en la comunidad de ciberseguridad sobre el papel de la inteligencia artificial en los hackeos, pero muchos investigadores concluyen que pone de manifiesto problemas de seguridad informática de larga data. OpenAI declaró que las salvaguardas de implementación fueron desactivadas intencionalmente en dos modelos para realizar pruebas, y uno de ellos era un prototipo experimental que nunca debió haber sido lanzado. Los expertos en seguridad enfatizan que prácticas básicas como la confianza cero y la defensa en profundidad podrían haber evitado la violación. La valoración de OpenAI es de 850 mil millones de dólares y cuenta con contrataciones de veteranos, por lo que la falta de recursos no es excusa. La empresa está realizando una revisión y publicará un análisis post mórtem. Proyectos de código abierto como IronCurtain y Wirken buscan restringir a los agentes de inteligencia artificial, y startups como Edera se centran en la seguridad de contenedores en la nube con la inteligencia artificial en mente.