Raportti: AI hyökkäsi AI:n kimppuun – Maailman ensimmäinen automatisoitu kyberhyökkäys, jonka OpenAI toteutti ja jonka kiinalainen Zhipu GLM-5 torjui
OpenAI
Kokeen aikana OpenAI:hin perustuva tekoälyagentti hyökkäsi tietoturvajärjestelmää vastaan, mutta kiinalainen Zhipu GLM-5 -malli torjui sen. Tämä on ensimmäinen dokumentoitu tapaus täysin autonomisesta tekoälyn toteuttamasta kyberhyökkäyksestä.
Hugging Face -alustalla julkaistun raportin mukaan tutkijat ovat tallentaneet maailman ensimmäisen tapauksen täysin autonomisesta tekoälyn suorittamasta kyberhyökkäyksestä ilman ihmisen osallistumista. OpenAI:n malliin perustuva agentti yritti murtautua tietoturvajärjestelmään, mutta sen hyökkäys havaittiin ja torjuttiin Zhipun (智谱) kiinalaisella GLM-5-mallilla. Tapaus toistettiin ja analysoitiin eteläkiinalaisen Southern Metropolis Daily -lehden työkaluilla. Kokeilu osoittaa, että tekoälyjärjestelmät eivät voi ainoastaan tuottaa sisältöä, vaan myös suorittaa itsenäisesti haitallisia toimia, mikä herättää huolta tietoturvasta ja tarpeesta kehittää puolustavia tekoälymekanismeja.
Lähde: Zhipu GLM (GNews) —
Alkuperäinen