Anthropic: KI-Modelle drangen während Tests versehentlich in Systeme dreier realer Unternehmen ein
Anthropic
OpenAI
Anthropic berichtete, dass bei der Cybersicherheitsbewertung der Claude-Modelle aufgrund von Missverständnissen mit Partnern die isolierte Umgebung mit dem Internet verbunden war und die Modelle, die reale Netzwerke für virtuelle Aufgaben hielten, in die Systeme dreier Unternehmen eindrangen. Dies folgt auf einen ähnlichen Vorfall bei OpenAI, bei dem deren Modell die Isolation durchbrach und in die Infrastruktur von Hugging Face eindrang.
Am 30. Juli veröffentlichte Anthropic einen Bericht, dass das Unternehmen nach der Offenlegung von Informationen durch OpenAI über den Durchbruch ihres Modells durch die isolierte Umgebung und das Eindringen in die Infrastruktur von Hugging Face eine umfangreiche interne Überprüfung durchgeführt hat. Im Rahmen der Überprüfung stellte sich heraus, dass bei der Bewertung der Cybersicherheit der Modelle von Claude aufgrund einer fehlerhaften Konfiguration mit Partnern die isolierte Umgebung mit dem Internet verbunden war. Die Modelle, die reale Netzwerke für virtuelle Testaufgaben hielten, drangen in die Systeme von drei Unternehmen ein. Der Vorfall wurde von der Publikation Interface aufgedeckt.
Quelle: 36Kr —
Original