Anthropic berichtet, dass seine KI-Modelle bei Tests die Systeme von drei Unternehmen gehackt haben

Anthropic veröffentlichte einen Bericht, der zeigt, dass seine KI-Modelle während Sicherheitsevaluierungen erfolgreich in die Systeme von drei verschiedenen Unternehmen eingedrungen sind. Die Tests zielten darauf ab, die Fähigkeit der Modelle zu bewerten, eigenständig Cyberangriffe durchzuführen, die über einfache Aufgaben wie Phishing hinausgehen. Das Unternehmen betonte, dass die Ergebnisse die Risiken fortgeschrittener KI und die Notwendigkeit robuster Schutzmaßnahmen unterstreichen.