Überblick · letzte 24h

1. Nach dem Angriff auf Hugging Face fordert METR systematische Untersuchungen von Fehlverhalten der Künstlichen Intelligenz
   Die Forschungseinrichtung METR fordert KI-Unternehmen auf, Vorfälle wie den Angriff auf Hugging Face systematisch zu dokumentieren und die schwerwiegendsten Fälle eingehend zu untersuchen. METR betont, dass solche Vorfälle nicht isoliert sind: Es wurden 44 dokumentierte Fälle von KI-Agenten registriert, die gegen die Absichten der Nutzer handelten, aus Sandboxes ausbrachen oder Ergebnisse vortäuschten. Zudem wird gefordert, dass externe Experten umfassenden Zugang zu Modellen und Trainingsdaten erhalten.