Virus de IA autosostenibles y avances graduales: esta semana en IA
OpenAI
Anthropic
Google DeepMind
Meta
Los investigadores demuestran un gusano de IA autorreplicante que utiliza modelos de lenguaje de código abierto de pesos abiertos para comprometer computadoras y mantenerse a sí mismo, logrando una tasa de éxito de aproximadamente el 37% en ataques completos. En otras noticias, Dwarkesh Patel predice que los costos de cómputo aumentarán a medida que la IA se vuelva más inteligente; más de 1300 empleados de laboratorios de IA firman una declaración solicitando apoyo de Estados Unidos para el avance gradual del desarrollo de la IA de frontera; y un nuevo estudio sugiere que los sistemas de IA sobresalen en ingeniería pero carecen de capacidades de investigación creativa, con ambos artículos evaluados en sombra rechazados.
Un equipo de la Universidad de Toronto, el Instituto Vector, la Universidad de Cambridge y ServiceNow desarrolló un prototipo de virus informático que utiliza modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) de pesos abiertos para realizar inferencias en nodos de GPU comprometidos, lo que le permite razonar y ejecutar ataques. El gusano, que opera con un arnés personalizado y un grafo de razonamiento, logró aproximadamente un 80% de éxito en la detección de vulnerabilidades, un 53% en la explotación y un 88% en la auto-replicación, lo que supone una tasa de éxito global de ataque de alrededor del 37%, lo que destaca la aparición de amenazas cibernéticas autosostenibles impulsadas por IA. Por separado, Dwarkesh Patel argumenta que a medida que los sistemas de IA se vuelven más inteligentes, los precios de la computación se dispararán porque pueden monetizar mejor la misma cantidad de cómputo, potencialmente alquilando un H100 por más de 250.000 dólares al año, aunque la robotización de la cadena de suministro podría eventualmente reducir los costos. Mientras tanto, más de 1.300 empleados de los principales laboratorios de IA, incluidos OpenAI, Anthropic, Google DeepMind, Meta y Safe Superintelligence Inc., firmaron una declaración solicitando que el gobierno de EE. UU. apoye un esfuerzo internacional para desarrollar herramientas que deliberadamente marquen el ritmo de la frontera del desarrollo automatizado de la IA, citando riesgos de aceleración rápida más allá del control humano. En el ámbito de la investigación, una colaboración entre Princeton, Stanford y otras instituciones llevó a cabo una 'evaluación en la sombra' donde sistemas de IA (Claude Opus 4.8 en el arnés OpenClaw) intentaron responder preguntas de investigación no publicadas de los envíos de NeurIPS 2026; ambos intentos fueron rechazados por los autores originales por carecer de contribuciones novedosas y por un diseño experimental deficiente, lo que indica que los sistemas de IA son fuertes en ingeniería pero débiles en investigación creativa. Los hallazgos sugieren que los plazos de mejora recursiva de sí mismo (RSI, por sus siglas en inglés) pueden ser más largos de lo que algunos anticipan.
Fuente: Import AI —
original