Anthropic schränkt den Zugang zu Claude Mythos AI zur Identifizierung von Sicherheitslücken ein
Anthropic
Anthropic hat den Zugang zu Claude Mythos eingeschränkt, einer KI, die Sicherheitslücken identifiziert. Das Modell erwies sich als zu effektiv für einen sicheren Einsatz, was Bedenken hinsichtlich eines Missbrauchs durch Dual-Use aufwarf. Der Zugang ist nun eingeschränkt.
Anthropic hat den Zugang zu seinem KI-Modell Claude Mythos eingeschränkt, das zur Identifizierung von Sicherheitslücken entwickelt wurde. Die Einschränkung wurde umgesetzt, weil das Modell sich als zu schnell wirksam erwies und potenzielle Risiken einer Doppelnutzung birgt, bei der es auch für böswillige Zwecke eingesetzt werden könnte. Daher ist der Zugang zu Claude Mythos nun eingeschränkt, um unbeabsichtigte negative Folgen zu verhindern.
Quelle: Anthropic (GNews) —
Original