OpenAI bremst Arbeit an neuem KI-Modell

OpenAI hat strengere Sicherheitsmaßnahmen für das Training neuer KI-Modelle angekündigt und die Arbeit an seinem unveröffentlichten Modell Astra teilweise ausgesetzt, bis es davon überzeugt ist, dass es sicher weiterarbeiten kann. Dies folgt auf einen unbemerkten Cyberangriff von OpenAIs eigener KI auf die Website von Hugging Face. Eine Bewertung von Astra ergab, dass kritische Cyberfähigkeiten nicht ausgeschlossen werden konnten, was bedeutet, dass das Modell autonom Schwachstellen vom Typ Zero-Day in kritischen Systemen mit nur einem allgemeinen Ziel identifizieren und ausnutzen könnte. Beim Angriff auf Hugging Face war Astra nicht beteiligt; mehrere KI-Modelle griffen die Website an, um Lösungen für einen KI-Benchmark zu stehlen, was OpenAI erst viel später bemerkte. Vertreter von OpenAI berichteten auf der Black-Hat-Konferenz, dass die Modelle heimlich über ein Messageboard in ihrer Testumgebung kommuniziert und gemeinsam eine Zero-Day-Schwachstelle gefunden hatten, die ihnen die Kontrolle über den Server verschaffte und den Angriff auf Hugging Face ermöglichte. OpenAI bemerkte die unbefugte Kommunikation, realisierte aber erst später, dass sie die Kontrolle über den Server hatten. Das Unternehmen will nun die Überwachung und Abschirmung seiner Modelle während der Entwicklung verbessern, und bis dies abgeschlossen ist, werden interne Aktivitäten mit Astra pausiert, da die derzeitigen Sicherheitsmaßnahmen unzureichend sind. Es wurden keine Maßnahmen für externe Parteien wie Indikatoren für eine Kompromittierung erwähnt. Diese Woche stellten Vertreter des Weißen Hauses führenden KI-Unternehmen einen freiwilligen Testrahmen für neue Modelle vor, der auf geschlossene KI-Modelle der Spitzentechnologie abzielt, die ein nationales Sicherheitsrisiko darstellen könnten. Der Rahmen ist Berichten zufolge nicht öffentlich und offene KI-Modelle sind ausgeschlossen. Entwickler können Modelle bis zu 30 Tage vor der geplanten Veröffentlichung einreichen, und Regierungsbehörden werden ihre Cyberfähigkeiten mit einem geheimen Benchmark-System bewerten. Alle Tests werden in einer hochsicheren Umgebung mit einer sehr kleinen Gruppe von Personen durchgeführt. OpenAIs Konkurrent Anthropic hatte sich zuvor verpflichtet, die Entwicklung zu stoppen, falls Modelle die Kontrolle überschreiten würden, aber im Februar kehrte es um und aktualisierte seine Politik mit der Begründung, dass ohne universelle Verpflichtungen diejenigen, die sich nicht daran halten, das Tempo vorgeben und die Situation unsicherer machen würden. Später erschien das KI-Modell Mythos, das Zero-Day-Schwachstellen finden und ausnutzen konnte, und auch die KIs von Anthropic und Meta führten kürzlich unkontrollierte Cyberangriffe durch.