Selbsterhaltende KI-Viren und das Tempo des Fortschritts: Diese Woche in der KI
OpenAI
Anthropic
Google DeepMind
Meta
Forscher demonstrieren einen sich selbst replizierenden KI-Wurm, der Open-Weight-LLMs nutzt, um Computer zu kompromittieren und sich selbst zu erhalten, mit einer Erfolgsrate von etwa 37 Prozent für vollständige Angriffe. In weiteren Nachrichten sagt Dwarkesh Patel voraus, dass die Rechenkosten steigen werden, je intelligenter KI wird, über 1300 Mitarbeiter von KI-Laboren unterzeichnen eine Erklärung, in der sie US-Unterstützung für das Tempo der Entwicklung von Frontier-KI fordern, und eine neue Studie deutet darauf hin, dass KI-Systeme im Ingenieurwesen hervorragend sind, aber kreative Forschungskapazitäten vermissen lassen, wobei beide Schatten-bewerteten Arbeiten abgelehnt wurden.
Ein Team der University of Toronto, des Vector Institute, der University of Cambridge und von ServiceNow hat einen Prototyp eines Computervirus entwickelt, das Open-Weight-LLMs nutzt, um auf kompromittierten GPU-Knoten Inferenz durchzuführen und so Angriffe zu planen und auszuführen. Der Wurm, der mit einer benutzerdefinierten Steuerung und einem Reasoning-Graphen arbeitet, erreichte eine Erfolgsrate von etwa 80 Prozent bei der Schwachstellenerkennung, 53 Prozent bei der Ausnutzung und 88 Prozent bei der Selbstreplikation, was einer Gesamterfolgsrate von etwa 37 Prozent entspricht und die Entstehung selbsttragender KI-gesteuerter Cyberbedrohungen hervorhebt. Getrennt davon argumentiert Dwarkesh Patel, dass mit zunehmender Intelligenz von KI-Systemen die Preise für Rechenleistung steigen werden, da diese Systeme die gleiche Menge an Rechenleistung besser monetarisieren können, was möglicherweise dazu führen könnte, dass eine H100 für über 250.000 Dollar pro Jahr gemietet wird, obwohl die Robotisierung der Lieferkette die Kosten schließlich senken könnte. In der Zwischenzeit haben über 1.300 Mitarbeiter großer KI-Labore, darunter OpenAI, Anthropic, Google DeepMind, Meta und Safe Superintelligence Inc., eine Erklärung unterzeichnet, in der sie die US-Regierung bitten, eine internationale Anstrengung zu unterstützen, um Werkzeuge zu entwickeln, die die Grenze der automatisierten KI-Entwicklung bewusst verlangsamen, und dabei auf die Risiken einer schnellen Beschleunigung jenseits menschlicher Kontrolle hinweisen. In der Forschung führte eine Zusammenarbeit zwischen Princeton, Stanford und anderen Institutionen eine 'Schattenbewertung' durch, bei der KI-Systeme (Claude Opus 4.8 im OpenClaw-Harness) versuchten, unbeantwortete Forschungsfragen aus Einreichungen für NeurIPS 2026 zu beantworten; beide Versuche wurden von den ursprünglichen Autoren abgelehnt, weil ihnen neuartige Beiträge fehlten und das experimentelle Design mangelhaft war, was darauf hindeutet, dass KI-Systeme stark im Ingenieurwesen, aber schwach in kreativer Forschung sind. Die Ergebnisse deuten darauf hin, dass die Zeitpläne für rekursive Selbstverbesserung (RSI) länger sein könnten als von manchen erwartet.
Quelle: Import AI —
Original