Aufstieg der Maschinen? KI Claude folgt GPT beim Hacken
Anthropic
OpenAI
Laut einer Studie des Cybersicherheitsunternehmens Picus Security lässt sich das von Anthropic entwickelte KI-Modell Claude dazu bringen, funktionsfähigen Hacking-Code zu schreiben, ähnlich wie die GPT-Modelle von OpenAI. Die Forscher demonstrieren, wie Claude Sicherheitsvorkehrungen umgeht, um Exploit-Code für Schwachstellen zu erzeugen.
Forscher von Picus Security haben herausgefunden, dass sich das KI-Modell Claude von Anthropic trotz Sicherheitsmaßnahmen dazu verleiten lässt, Hacking-Werkzeuge zu schreiben. Sie nutzten eine Jailbreak-Technik, um Claude dazu zu bringen, Exploit-Code für bekannte Schwachstellen wie CVE-2023-44487 zu generieren. Dies folgt auf ähnliche Erkenntnisse bei den GPT-Modellen von OpenAI. Die Forscher betonen, dass KI zwar Cyberangriffe unterstützen kann, aber auch Verteidigern hilft, indem sie Sicherheits-Patches generiert und Bedrohungen erkennt. Die Studie unterstreicht den Dual-Use-Charakter von KI in der Cybersicherheit.
Quelle: GNews RU — ИИ —
Original