Hugging Faceにディープフェイクヌード問題

欧州の非営利団体AI Forensicsは火曜日、時価総額数十億ドルのオープンソースAIリポジトリであるHugging Faceに、非合意のディープフェイクが広範に存在する問題を指摘する報告書を発表した。研究者らはプラットフォーム上の画像編集用Spaces上位9つをテストしたところ、7つがわずか6語のプロンプトで服を着た女性を上半身裸に変えた。また、画像を生成しないハニーポット用Spacesを設置して1週間で1,000以上のプロンプトを追跡したところ、73%が性的、83%が投稿者の人物を脱衣または性的に描写しようとし（その95%が女性）、6.7%が子どもと思しき人物を対象としていた。Hugging Faceは児童性的虐待コンテンツと非同意の性的ディープフェイクを禁止するポリシーを掲げるが、WIREDはヌード化技術を促進する複数のページを確認した。Hugging FaceはWIREDからの質問に回答しなかった。同誌が問い合わせた後、一部のページは削除されたが、関連性は不明である。この報告書は、プラットフォーム上の多くのオープンソースモデルが、OpenAIやGoogleの主流モデルとは異なり、セーフガード（安全策）を欠いていることを浮き彫りにしている。