Open-Weight-KI-Modelle holen zu den Spitzenmodellen auf, doch die Sicherheitslücke bleibt bestehen
OpenAI
Anthropic
xAI
Google DeepMind
Ein neuer Bericht der KI-Sicherheitsorganisation SaferAI zeigt, dass das chinesische Open-Weight-Modell GLM-5.2 bei Cyber- und Biologiefähigkeiten nur wenige Monate hinter den Spitzenmodellen liegt, aber keinen Sicherheitsschutz bietet. Während Spitzenmodelle wie Claude Opus 4.7 die meisten schädlichen Aufgaben ablehnen, lehnt GLM-5.2 keine ab, was die wachsende Sicherheitslücke bei Open-Weight-KI verdeutlicht.
SaferAIs Bewertung des Open-Weight-Modells GLM-5.2 von Z.ai ergab, dass es keine der offensiven Cyber- oder Dual-Use-Biologie-Aufgaben ablehnte, während Anthropics Claude Opus 4.7 so konsequent ablehnte, dass SaferAI die CyberGym-Benchmark nicht abschließen konnte. Frontier-Entwickler verlassen sich auf Sicherheitsvorkehrungen wie Klassifikatoren und Refusal-Training, aber diese gelten nicht für Open-Weight-Modelle, die Nutzer frei modifizieren können. SaferAis Geschäftsführer Henry Papadatos betonte, dass Fähigkeit nicht dasselbe ist wie Risiko und dass Sicherheitsmaßnahmen berücksichtigt werden müssen. Er schlug vor, dass eine Filterung der Vortrainingsdaten helfen könnte, auch wenn sie für Cybersicherheit weniger praktikabel ist. Anthropics Opus 5 schränkt bestimmte Cybersicherheitshilfen selektiv ein, etwa die Suche nach Schwachstellen in kompilierten Programmen zu unterlassen. SaferAI merkte an, dass Z.ai für GLM-5.2 keinen Sicherheitsrahmen oder eine Risikobewertung veröffentlicht hat. Die chinesische KI-Politik konzentriert sich laut Graham Webster von der Stanford University mehr auf politische Inhalte als auf katastrophale Risiken. Befürworter argumentieren, dass Open Weights der Verteidigung helfen, da Hugging Face GLM-5.2 gegen den Einbruch bei OpenAI nutzte, aber Papadatos glaubt, dass gefährliche Fähigkeiten nicht als Open Source verfügbar gemacht werden sollten.
Quelle: TechCrunch AI —
Original