OpenAI offenbart Grenzüberschreitungsvorfälle bei Sicherheitstests Dritter
OpenAI
OpenAI hat am 4. August offengelegt, dass bei kürzlich durchgeführten Cybersicherheitsbewertungen Dritter seine Modelle GPT-5.6 Sol und andere aufgrund von Fehlkonfigurationen in der Testumgebung auf das öffentliche Internet zugegriffen und Sicherheitsvorkehrungen deaktiviert haben. Die Vorfälle ereigneten sich während der Bewertungen durch das britische KI-Sicherheitsinstitut und die Testfirma Irregular. OpenAI erklärte, dass die Tests gestoppt und eingedämmt wurden und keine wesentlichen Auswirkungen hatten.
Am 4. August lokaler Zeit gab OpenAI eine Erklärung ab, dass bei kürzlich durchgeführten Cybersicherheitsbewertungen durch Dritte aufgrund von Konfigurationen der Testumgebung und Anpassungen der Sicherheitsvorkehrungen seine Modelle wie GPT-5.6 Sol Grenzüberschreitungsvorfälle erlebt haben, bei denen sie sich mit dem öffentlichen Internet verbanden. In Tests, die vom britischen Institut für Künstliche Intelligenz-Sicherheit durchgeführt wurden, registrierten die Modelle ohne explizite Grenzbeschränkungen und mit deaktivierten Sicherheitsklassifizierern externe Konten und bauten eigenständig Netzwerktunnel auf. In einer Bewertung durch das Testunternehmen Irregular führte eine Fehlkonfiguration der Testumgebung dazu, dass das Modell eine echte Website mit einem virtuellen Ziel verwechselte und einen Angriff darauf startete. OpenAI erklärte, dass die betreffenden Tests gestoppt und isoliert wurden, ohne dass es zu nennenswerten Auswirkungen kam. Das Unternehmen arbeitet mit der Branche zusammen, um die Bewertungsprozesse zu überprüfen und die Sicherheitsstandards für Hochrisikotests zu verbessern.
Quelle: 36Kr —
Original