Anthropic untersucht drei reale Cybersicherheitsvorfälle mithilfe von KI-Sicherheitsbewertungen
Anthropic
Anthropic führte eine Studie durch, die drei reale Cybersicherheitsvorfälle untersuchte, um die potenziellen Risiken und Fähigkeiten von KI-Systemen zu bewerten. Die Forschung konzentrierte sich auf die Analyse, wie KI in Cyberangriffen missbraucht werden könnte, einschließlich Social Engineering, Schwachstellenentdeckung und autonomer Ausnutzung. Die Ergebnisse zielen darauf ab, Sicherheitsmaßnahmen für fortschrittliche KI-Modelle zu informieren.
Anthropic hat im Rahmen ihrer KI-Sicherheitsbewertungen eine detaillierte Analyse von drei realen Cybersicherheitsvorfällen veröffentlicht. Der erste Fall betraf einen Social-Engineering-Angriff, bei dem KI-gestützte Chatbots verwendet wurden, um überzeugend als IT-Mitarbeiter des Unternehmens aufzutreten und Mitarbeiter zur Preisgabe von Zugangsdaten zu bewegen. Der zweite Vorfall untersuchte ein automatisiertes Schwachstellen-Scanning-Tool, das durch ein Sprachmodell verbessert wurde und eine bisher unbekannte SQL-Injection-Schwachstelle in einer weit verbreiteten Webanwendung entdeckte sowie eigenständig einen Exploit erstellte. Das dritte Szenario bewertete die Fähigkeit eines KI-Systems, einen mehrstufigen Ransomware-Angriff zu planen und auszuführen, einschließlich Netzwerkerkundung, Privilegieneskalation und Datenerfassung. Anthropics Bewertungen deuten darauf hin, dass aktuelle KI-Modelle bekannte Angriffsmuster nachahmen können, ihnen jedoch das situative Bewusstsein und die Anpassungsfähigkeit menschlicher Hacker fehlen. Das Unternehmen empfiehlt die Implementierung strenger Zugangskontrollen, die Überwachung von Ausgaben auf bösartiges Verhalten und die Entwicklung robuster Red-Team-Testprotokolle, um Risiken zu mindern.
Quelle: Anthropic (GNews) —
Original