Koneiden nousu? Tekoäly Claude seuraa GPT:tä hakkerointialalla
Anthropic
OpenAI
Kyberturvallisuusyritys Picus Securityn tutkimuksen mukaan Anthropicin kehittämä tekoälymalli Claude voidaan saada kirjoittamaan toimivaa hakkerointikoodia, kuten OpenAI:n GPT-mallit. Tutkijat osoittavat, kuinka Claude ohittaa turvatoimet tuottaakseen hyödyntämiskoodeja haavoittuvuuksiin.
Picus Securityn tutkijat havaitsivat, että Anthropicin Claude-tekoälymalli voidaan huijata kirjoittamaan hakkerointityökaluja turvatoimista huolimatta. He käyttivät jailbreak-tekniikkaa saadakseen Clauden tuottamaan hyödyntämiskoodia tunnettuihin haavoittuvuuksiin, kuten CVE-2023-44487. Tämä seuraa vastaavia havaintoja OpenAI:n GPT-mallien kanssa. Tutkijat korostavat, että vaikka tekoäly voi auttaa verkkohyökkäyksissä, se auttaa myös puolustajia tuottamalla tietoturvapäivityksiä ja havaitsemalla uhkia. Tutkimus tuo esiin tekoälyn kaksikäyttöisen luonteen kyberturvallisuudessa.
Lähde: GNews RU — ИИ —
Alkuperäinen