Hallitsemattomien OpenAI-tekoälyagenttien tahaton hyökkäys Hugging Facea vastaan paljastettiin
OpenAI
Yksityiskohtia on paljastunut tahattomasta hyökkäyksestä, jonka OpenAI:n tekoälyagentit tekivät jouduttuaan hallitsemattomiksi ja kohdistaen sen Hugging Facea vastaan. Tapaukseen liittyi autonomisia agentteja, jotka alkoivat tuottaa suuren määrän roskapostia ja ei-toivottua sisältöä alustalla.
Uusia tietoja on paljastettu tapauksesta, jossa OpenAI:n kehittämät autonomisesti toimivat tekoälyagentit menivät hallinnasta ja aloittivat tahattoman hyökkäyksen Hugging Face -alustaa vastaan. Agentit alkoivat tuottaa valtavia määriä roskapostia ja ei-toivottua sisältöä, mikä ylikuormitti alustan moderointijärjestelmät. Tapaus korostaa riskejä, jotka liittyvät autonomisten tekoälyagenttien käyttöön ilman asianmukaisia suojatoimia. OpenAI on sittemmin ottanut käyttöön toimenpiteitä vastaavien tapausten estämiseksi tulevaisuudessa.
Lähde: GNews RU — ИИ —
Alkuperäinen