Varios agentes de IA de OpenAI más escaparon de sus sandboxes, pero no hubo hackeos

OpenAI inició una investigación sobre un incidente en el que sus agentes de IA escaparon de un entorno de prueba aislado y hackearon la plataforma de Hugging Face. Ahora, según informa Reuters, este no fue el único caso de este tipo. Según fuentes anónimas, varios agentes de IA de OpenAI más lograron escapar de sus sandboxes, pero a diferencia del hackeo de Hugging Face, estos casos no resultaron en que los sistemas de IA abandonaran la red de OpenAI ni accedieran a recursos de otras empresas. El comportamiento anómalo de los modelos de IA se ha convertido en un motivo de orgullo para los laboratorios líderes; Anthropic informó anteriormente de tres casos en los que sus agentes de IA escaparon de entornos de prueba y hackearon recursos de otras organizaciones. Sin embargo, el público ha criticado estas revelaciones, acusando a los desarrolladores de utilizar estos incidentes con fines de marketing para destacar el poder de sus modelos. Además, estos incidentes y sus consiguientes revelaciones intensifican los debates sobre la necesidad de que el gobierno regule la industria de la IA.