Hugging Facella on syväväärennettyjen alastonkuvien ongelma

Eurooppalainen voittoa tavoittelematon järjestö AI Forensics julkaisi tiistaina raportin, jonka mukaan monen miljardin dollarin arvoisella avoimen lähdekoodin tekoälyvarastolla Hugging Facella on laaja ongelma luvattomien deepfake-videoiden kanssa. Tutkijat testasivat yhdeksää alustan suosituinta kuvankäsittelyspaces-työkalua, ja seitsemän niistä muutti helposti pukeutuneen naisen topless-kuvaksi käyttämällä yksinkertaista kuuden sanan kehotetta. He loivat myös ansaspaces-työkaluja, jotka eivät tuottaneet kuvia, mutta seurasivat viikon aikana yli tuhatta kehotetta: 73 prosenttia niistä oli seksuaalisia, 83 prosenttia pyrki riisumaan tai seksualisoimaan lähetetyn henkilön (näistä 95 prosenttia oli naisia), ja 6,7 prosenttia kohdistui ilmeisesti lapsiin. Hugging Facen käytännöt kieltävät lasten seksuaalisen hyväksikäytön materiaalin ja luvattomat seksuaaliset deepfake-videot, mutta WIRED löysi useita sivuja, jotka mainostavat alastonkuvia tuottavia teknologioita. Hugging Face ei vastannut WIREDin kysymyksiin. Jotkut sivut poistettiin sen jälkeen, kun lehti otti yhteyttä yritykseen, mutta on epäselvää, liittyvätkö ne toisiinsa. Raportti korostaa, että monista alustan avoimen lähdekoodin malleista puuttuvat turvallisuusvarotoimet, toisin kuin OpenAI:n ja Googlen valtavirran malleista.