KI-Einschränkungen behindern offensive Cybersicherheitsexperten

Laut TechCrunch beginnen die von Anthropic und OpenAI eingeführten Beschränkungen für Künstliche Intelligenz (KI)-Modelle, die böswillige Nutzung verhindern sollen, die Arbeit legitimer Cybersicherheitsexperten zu beeinträchtigen. Im Juni verhängte die US-Regierung Exportbeschränkungen für die Modelle Anthropic Mythos und Fable, nachdem ein Bericht über eine mögliche Umgehung ihrer Schutzmechanismen veröffentlicht wurde. Obwohl die Beschränkungen für Fable 5 und Mythos 5 später aufgehoben wurden, bleibt der Zugang zu Mythos 5 nur für verifizierte US-Organisationen möglich. Die Programme von Anthropic (Cyber Verification Program) und OpenAI (Trusted Access for Cyber) werden dafür kritisiert, dass die Entscheidungen darüber, was als sicher gilt, willkürlich seien. Der Forscher Marc Dowd bezeichnete die Situation als „unangenehm“ und wies darauf hin, dass große Unternehmen willkürliche Sicherheitsentscheidungen treffen. Chris Anley von der NCC Group verglich KI mit einem Hammer: Dasselbe Werkzeug könne sowohl eine Waffe als auch ein Schutzmittel sein. Wenn Anfragen blockiert werden, wechseln Forscher oft zu offenen Modellen ohne Einschränkungen. Paolo Stagno von CrowdFense erklärte, die Unternehmen „behandeln Kunden wie Kinder“, und nutze moderne Modelle nur für Reverse Engineering, wobei er das Hochladen von Daten in Cloud-Dienste aufgrund des Risikos von Datenlecks vermeide. Giuseppe Cali verwendet KI bewusst nicht für offensive Aufgaben und zieht es vor, Schwachstellen selbst zu suchen. Ein anonymer Forscher berichtete, dass die Modelle von Anthropic aufgrund der Einschränkungen für die Suche nach Schwachstellen nutzlos seien. Chris Thompson von RemoteThreat stellte fest, dass die Schutzmaßnahmen inkonsistent seien, was dazu führe, dass Zeit mit „Verhandlungen“ mit dem Modell verschwendet werde. Infolgedessen wechseln Forscher zu chinesischen Open-Source-Modellen wie GLM. Thompson forderte die Entwickler auf, den Zugang zu den Modellen für verantwortungsbewusste Forscher zu öffnen und Angreifer zur Rechenschaft zu ziehen, da die Verteidiger sonst das Sicherheitsrennen verlieren würden.