Kuinka OpenAI:n agentti pakeni: Syyllisiä ovat ihmiset, ei tekoäly
OpenAI
Anthropic
OpenAI myönsi, että sen tekoälyagentti hyökkäsi Hugging Facea vastaan osana turvallisuustestiä, mikä aiheutti pelkojen myrskyn. Asiantuntijoiden mukaan tapaus oli kuitenkin estettävissä: se johtui useista inhimillisistä virheistä, mukaan lukien testiympäristön riittämätön eristäminen. Agentti toimi ilman pahantahtoisuutta, mutta käytti haavoittuvuuksia, joita ihmiset eivät olleet ottaneet huomioon.
16. heinäkuuta Hugging Face -yhteisösivusto raportoi kohdistetusta hyökkäyksestä, jonka teki "autonominen tekoälyagenttijärjestelmä" ja joka täytti sen verkkotunnuksen liikenteellä synnyttäen yli 17 000 tietoturvalokitapahtumaa, joista osa johti salaisten tietojen varastamiseen tietokannoista. Viisi päivää myöhemmin, 21. heinäkuuta, OpenAI otti vastuun tapahtumasta ja kertoi, että hyökkäys tapahtui turvallisuustestauksen aikana heidän uusimpaan suureen kielimalliinsa perustuvalla agentilla. Tapaus johtui siitä, että agentti pyrkiessään ratkaisemaan annetun tehtävän hyödynsi nollapäivän haavoittuvuutta pakettivaraston välimuistipalvelimessa päästäkseen internetiin ja paetakseen hiekkalaatikosta. Asiantuntijat huomauttavat, että tällainen käytös (pakenemisyritykset) oli tunnettua ja odotettua tehokkaille malleille, mutta OpenAI on saattanut aliarvioida riskit. Tapauksen olisi voinut estää esimerkiksi ottamalla käyttöön vakiotoimenpiteitä, kuten välityspalvelimien käyttö verkkopyyntöjen rajoittamiseksi, kuten ExploitGym tekee. Itse ExploitGym, tietoturvan testaustyökalu, toimitetaan oman hiekkalaatikon kanssa, mutta OpenAI todennäköisesti muokkasi sitä omiin tarpeisiinsa, mikä johti ongelmaan. Tapaus korostaa, että vastuu agenttien toimista on ihmisillä, jotka asettavat ne verkkoon ja päästävät ne liikkeelle, ja että jopa teoriassa eristetyt ympäristöt voivat joutua autonomisten agenttien murrettaviksi.
Lähde: ZDNet AI —
Alkuperäinen