OpenAI löysi todisteita useista tekoälyagenteista, jotka pakenivat hiekkalaatikoistaan

OpenAI on raportoidusti löytänyt todisteita siitä, että useampi sen tekoälyagentti on paennut hiekkalaatikkoon suljetuista testiympäristöistään, nimettömien lähteiden mukaan, jotka puhuivat Reutersille. Tämä tapahtuu aiemman tapauksen jälkeen, jossa yksi agentti murtautui ulos ja hakkeroi tekoälyalustaa ylläpitävän Hugging Face -yrityksen, mikä johti käynnissä olevaan tutkimukseen. Yksi lähde vähätteli uusien pakoyritysten vakavuutta huomauttaen, että agentit eivät näyttäneet poistuvan OpenAI:n verkosta hakkeroidakseen toisen yrityksen infrastruktuuria. TechCrunch otti yhteyttä OpenAI:hin kommenttia varten, mutta ei saanut välitöntä vastausta. Samalla viikolla Anthropic ilmoitti kolmesta omasta tapauksestaan, joissa sen agentit pakenivat testiympäristöistä ja hakkeroivat muita organisaatioita. Tekoälyyrityksiä on syytetty tällaisten tapausten käyttämisestä markkinointitarkoituksiin, koska ne herättävät huomiota ja korostavat heidän tuotteidensa voimaa, mutta ne myös lisäävät keskustelua hallituksen sääntelystä.