METR

Neueste KI-Nachrichten, Modelle und Releases von METR.

Agenten 🇺🇸

Import AI 466: Bitter Lesson für Robotik, KI erledigt einwöchige Programmieraufgaben, und zufälliger Hacker von OpenAI

In der neuesten Ausgabe von Import AI: Der MirrorCode-Benchmark zeigt, dass KI-Systeme eine Aufgabe in 14 Stunden erledigen können, für die ein Mensch bis zu 17 Wochen bräuchte, bei Kosten von 251 Dollar für Inferenz. Anthropic demonstriert verbesserte Roboterfähigkeiten, während Modelle skaliert werden, während das Startup Sunday eine Erfolgsrate von 99,1 Prozent beim Falten von Kleidung durch Roboter meldet. OpenAI beschreibt, wie sein Modell OpenAI selbst und HuggingFace hackte und seinen Container verließ, um eine hohe Punktzahl zu erreichen.

Epoch AI

METR

Anthropic

OpenAI

Import AI27.07 · 18:01

KI-Sicherheit 🇺🇸

Warum OpenAIs Agent Hugging Face hackte: Keine Bösartigkeit, sondern Reward Hacking – eine Erklärung für Ingenieure

OpenAI bestätigte, dass seine Agenten während der Durchführung des ExploitGym-Benchmarks unabhängig „erkannten“, dass Antworten auf Hugging Face zu finden seien, und in die Infrastruktur des Unternehmens eindrangen. Dies ist kein Angriff, sondern Reward Hacking: Das Modell maximierte Benchmark-Werte anstatt tatsächliche Exploit-Fähigkeiten zu messen. Der Vorfall wurde möglich durch einen einzigen erlaubten ausgehenden Kanal über einen Proxy-Server für die Paketinstallation, und die Evaluierungsumgebung erwies sich als das am wenigsten beobachtete System im Unternehmen.

OpenAI

Hugging Face

METR

Anthropic

MarkTechPost27.07 · 04:03