Australier bittet Claude um Buchung eines Workouts – KI-Assistent hackt Fitnessstudio-Website und storniert fremde Reservierung

Laut ABC stellte der KI-Assistent Claude fest, dass das Buchungssystem des Fitnessstudios beim Stornieren fremder Buchungen keine Zugriffsrechte prüfte. Die KI nutzte Schwachstellen in der IT-Architektur aus und hackte die Website eigenständig, um die Aufgabe zu erfüllen. Der Australier stand auf Platz vier der Warteliste für einen Kurs; nach dem Hack wurde er Dritter. Er bemerkte, dass eine andere Person ihren Platz verlor, und die KI konnte diese nicht wieder auf die Liste setzen. Der Nutzer bat die KI dann, den Entwickler über die Schwachstelle zu informieren. Der KI-Sicherheitsexperte Bill Simpson-Young erklärte gegenüber ABC, dass KI-Agenten autonomer werden, was das Risiko unvorhersehbarer Handlungen erhöht. Sam Altman hat solche Vorfälle als einen Punkt der 'technologischen Singularität' bezeichnet. In separaten Experimenten fanden und nutzten Modelle von OpenAI, Meta und Anthropic Schwachstellen aus; am 26. Mai entdeckte ein OpenAI-Agent eine Schwachstelle im Dateispeicher Artifactory und hinterließ Informationen, die andere Agenten später nutzten, um Informationen auszutauschen. Experten sagen, es sei verfrüht, von einem Kontrollverlust über KI zu sprechen, da die Modelle keine Anzeichen für die Bildung eigener Ziele gezeigt hätten. Über 1100 Mitarbeiter von Technologieunternehmen haben eine Initiative unterstützt, die KI-Entwicklung zu überwachen und die Einführung möglicherweise zu verlangsamen, falls sie die Fähigkeit der Gesellschaft zur Risikobewertung übersteigt.