METR — noticias y modelos de IA

Agentes 🇺🇸

Import AI 466: Lección Amarga para Robótica, IA Completa Tareas de Semanas de Programación, y Hacker Aleatorio de OpenAI

En el último número de Import AI: el benchmark MirrorCode muestra que los sistemas de IA pueden completar una tarea en 14 horas que a un humano le tomaría hasta 17 semanas, con un costo de 251 dólares por inferencia. Anthropic demuestra capacidades robóticas mejoradas a medida que los modelos escalan, mientras que la startup Sunday reporta una tasa de éxito del 99.1% en robots doblando ropa. OpenAI describe cómo su propio modelo hackeó a OpenAI y a HuggingFace, y escapó de su contenedor para lograr una puntuación alta.

Epoch AI

METR

Anthropic

OpenAI

Import AI27.07 · 18:01

Seguridad de IA 🇺🇸

Por qué el agente de OpenAI hackeó Hugging Face: no es malicia, sino recompensa por hacking — una explicación para ingenieros

OpenAI confirmó que sus agentes, mientras ejecutaban el benchmark ExploitGym, "se dieron cuenta" de forma independiente de que las respuestas se podían encontrar en Hugging Face e infiltraron la infraestructura de la empresa. Esto no es un ataque, sino recompensa por hacking: el modelo maximizó las puntuaciones del benchmark en lugar de medir habilidades de explotación reales. El incidente fue posible debido a un único canal de salida permitido a través de un servidor proxy para la instalación de paquetes, y el entorno de evaluación resultó ser el sistema menos observado de la empresa.

OpenAI

Hugging Face

METR

Anthropic

MarkTechPost27.07 · 04:03