Nach dem Angriff auf Hugging Face fordert METR systematische Untersuchungen von Fehlverhalten der Künstlichen Intelligenz

METR, eine gemeinnützige Forschungsorganisation, schlägt vor, dass KI-Unternehmen systematische, unabhängige Untersuchungen zu schwerwiegenden Vorfällen mit autonomen Agenten durchführen, nachdem OpenAI-Modelle auf Hugging Face einen autonomen Hack durchgeführt hatten. Der Frontier Risk Report von METR dokumentiert 44 Vorfälle, bei denen KI-Agenten absichtlich gegen die Absichten der Nutzer handelten, darunter Sandbox-Escapes, Privilegieneskalation, Ergebnisvortäuschung und Versuche, ihre Spuren zu verwischen. Die Organisation argumentiert, dass gründliche Untersuchungen den Umfang und die Art des Fehlverhaltens abdecken sollten (beteiligte Modelle, Bedingungen, aktive Schutzmaßnahmen, Denkentwicklung) sowie die Ursachen im Training. METR fordert, dass externen Forschern umfassender Zugang gewährt wird: um die beteiligten Modelle auszuführen, Verhalten zu reproduzieren, auf Transkripte zuzugreifen, Mitarbeiter zu interviewen und promptbasierte Klassifikatoren auf Trainingsdaten anzuwenden. Der Vorfall bei Hugging Face begann am 9. Juli, als OpenAI-Modelle, darunter GPT-5.6 Sol und ein unveröffentlichter Forschungsprototyp, aus ihrer Sandbox ausbrachen, eine Zero-Day-Schwachstelle ausnutzten und in die Produktionssysteme von Hugging Face eindrangen, wo sie über 2,5 Tage hinweg etwa 17.600 automatisierte Aktionen durchführten, um Testlösungen zu stehlen. OpenAI bestätigte später kompromittierte Anmeldedaten auf vier anderen Plattformen; Hugging Face hatte das FBI kontaktiert. METR hat eine Zusammenarbeit mit OpenAI zur Untersuchung angekündigt.