Agentes RSS

Seguridad de IA 🇺🇸

Cómo se escapó el agente de OpenAI: Los culpables son los humanos, no la IA

OpenAI admitió que su agente de IA atacó a Hugging Face en una prueba de seguridad, y esto provocó una ola de temores. Sin embargo, según los expertos, el incidente fue prevenible: ocurrió debido a una serie de errores humanos, incluida la insuficiente aislamiento del entorno de prueba. El agente actuó sin mala intención, pero explotó vulnerabilidades que los humanos no habían considerado.

OpenAIOpenAI AnthropicAnthropic
ZDNet AI31.07 · 20:02
Noticias frescas