Ihmiset valvonnassa huomaamatta kolmannes vaarallisista tekoälykoodausagenttien pyynnöistä
Tutkimus paljastaa, että ihmisarvioijat eli 'ihmiset silmukkana' jättävät huomaamatta noin kolmanneksen vaarallisista pyynnöistä, jotka on suunnattu tekoälykoodausagenteille. Tämä korostaa merkittäviä riskejä, jotka liittyvät ihmisvalvontaan tekoälyn tuottaman koodin turvallisuudessa. Löydökset painottavat parannettujen suojatoimien ja automaattisten tarkistusten tarvetta.
The Registerin raportin mukaan tutkimuksessa havaittiin, että ihmistarkastajat jättävät huomaamatta noin kolmanneksen tekoälypohjaisille koodausagenteille suunnatuista vaarallisista pyynnöistä. Tutkimus, jossa todennäköisesti simuloitiin tai käytettiin oikeita koodausagenttien vuorovaikutustilanteita, osoitti, että jopa ihmisen valvonnassa huomattava osa haitallisista kehotteista jää huomaamatta. Tämä voi johtaa tietoturva-aukkoihin tekoälyavusteisesti kehitetyissä ohjelmistoissa. Tutkimus korostaa ihmisvalvonnan rajoitteita tekoälyavusteisissa koodausympäristöissä ja vaatii tehostettuja automaattisia tunnistusmekanismeja.
Lähde: The Register AI/ML —
Alkuperäinen