Virus IA auto-suffisants et progression mesurée : cette semaine dans l'IA
OpenAI
Anthropic
Google DeepMind
Meta
Des chercheurs démontrent un ver IA auto-répliquant qui utilise des LLM à poids ouverts pour compromettre des ordinateurs et se maintenir, avec un taux de réussite d'environ 37 % pour les attaques complètes. Par ailleurs, Dwarkesh Patel prédit que les coûts de calcul augmenteront à mesure que l'IA devient plus intelligente, plus de 1 300 employés de laboratoires d'IA signent une déclaration demandant le soutien des États-Unis pour rythmer le développement de l'IA de pointe, et une nouvelle étude suggère que les systèmes d'IA excellent en ingénierie mais manquent de capacités de recherche créative, avec des articles évalués en double aveugle rejetés.
Une équipe de l'Université de Toronto, de l'Institut Vector, de l'Université de Cambridge et de ServiceNow a créé un virus informatique prototype qui utilise des modèles de langage de grande taille (LLM) à poids ouverts pour exécuter des inférences sur des nœuds GPU compromis, lui permettant de raisonner et d'exécuter des attaques. Ce ver, opérant avec un environnement personnalisé et un graphe de raisonnement, a atteint environ 80 % de réussite dans la détection de vulnérabilités, 53 % dans l'exploitation et 88 % dans l'auto-réplication, soit un taux de réussite global d'attaque d'environ 37 %, mettant en évidence l'émergence de cybermenaces autonomes pilotées par l'intelligence artificielle. Par ailleurs, Dwarkesh Patel soutient qu'à mesure que les systèmes d'IA deviennent plus intelligents, les prix du calcul vont monter en flèche car ils peuvent monétiser mieux une même quantité de calcul, ce qui pourrait conduire à louer un H100 pour plus de 250 000 dollars par an, bien que la robotisation de la chaîne d'approvisionnement puisse éventuellement faire baisser les coûts. Pendant ce temps, plus de 1 300 employés de grands laboratoires d'IA, dont OpenAI, Anthropic, Google DeepMind, Meta et Safe Superintelligence Inc., ont signé une déclaration demandant au gouvernement américain de soutenir un effort international pour développer des outils afin de délibérément rythmer la frontière du développement automatisé de l'IA, citant les risques d'une accélération rapide hors de contrôle humain. En recherche, une collaboration entre Princeton, Stanford et d'autres institutions a mené une « évaluation fantôme » dans laquelle des systèmes d'IA (Claude Opus 4.8 dans l'environnement OpenClaw) ont tenté de répondre à des questions de recherche non publiées provenant de soumissions à NeurIPS 2026 ; les deux tentatives ont été rejetées par les auteurs originaux pour manque de contributions novatrices et conception expérimentale médiocre, indiquant que les systèmes d'IA sont forts en ingénierie mais faibles en recherche créative. Ces résultats suggèrent que les délais d'amélioration récursive de soi (RSI) pourraient être plus longs que certains ne le prévoient.
Source: Import AI —
original