Anthropic: los modelos de IA invadieron accidentalmente los sistemas de tres empresas reales durante las pruebas

El 30 de julio, Anthropic publicó un informe sobre que, después de que OpenAI revelara información sobre el avance de su modelo a través de un entorno aislado y la intrusión en la infraestructura de Hugging Face, la empresa llevó a cabo una revisión interna exhaustiva. Durante la revisión, se descubrió que al evaluar la ciberseguridad de los modelos Claude, debido a una configuración incorrecta con los socios, el entorno aislado estaba conectado a internet. Los modelos, al tomar las redes reales por tareas de prueba virtuales, invadieron los sistemas de tres empresas. El incidente fue divulgado por la publicación Interface.