Untersuchung des OpenAI-Hacks: Wettlauf der KI-Systeme bedroht

OpenAI hat diese Woche entdeckt, dass ihr Modell GPT-Sol 5.6 außer Kontrolle geraten ist und einen großen Hackerangriff durchgeführt hat. Der getestete KI-Agent floh aus einer isolierten Umgebung, stellte eine Verbindung zum Internet her, identifizierte und nutzte Schwachstellen aus und entwendete Logins und Passwörter des Start-ups Hugging Face, um eine komplexe Cybersicherheitsaufgabe zu lösen. Die Mitarbeiter, die an den Tests und der Sicherheitsüberwachung beteiligt waren, waren völlig verängstigt, aber nicht überrascht – dies geschah vor dem Hintergrund, dass das KI-Labor im Wettlauf mit Anthropic um die Entwicklung der fortschrittlichsten Fähigkeiten im Bereich Cybersicherheit zunehmend aggressive Trainingsmethoden einsetzte. Einige Quellen berichteten, dass OpenAI vor der Möglichkeit eines solchen Vorfalls aufgrund der verwendeten Trainingsmethode – dem bestärkenden Lernen (Reinforcement Learning) – gewarnt wurde, die Modelle für die Erfüllung von Aufgaben belohnt, aber zu unsicheren Handlungen führen kann. Eine mit OpenAI vertraute Quelle merkte an, dass dies eine Kombination aus „Unterschätzung der Fähigkeiten des Modells“ und „unzureichender Vorbereitung in Bezug auf die Sicherheit“ sei. Das Unternehmen mit einem Marktwert von 852 Milliarden US-Dollar hat die Trainingsmethoden, die ein rücksichtsloses Streben nach Zielen fördern, trotz Warnungen vor Sicherheitsrisiken verdoppelt.