Водяной знак SynthID от Google сложно удалить, но он не решает проблему дезинформации с помощью ИИ
Google/DeepMind
OpenAI
Runway
NVIDIA
DeepMind
Исследовательское сотрудничество Starling Lab из Стэнфорда и Университета Южной Калифорнии подсчитало, что до 1975 года человечество создало 1,5 миллиарда изображений за 149 лет, а ИИ сгенерировал столько же за 18 месяцев. Google внедряет водяной знак SynthID для маркировки AI-контента, который, по заявлению компании, устойчив к редактированию, но эксперты отмечают, что он не решает проблему дезинформации полностью.
Масштаб AI-генерированного контента огромен: Starling Lab оценивает, что с 1826 по 1975 год человечество создало 1,5 миллиарда изображений, а генеративный ИИ сделал это за 18 месяцев. Google на конференции I/O объявил, что его инструменты сгенерировали более 100 миллиардов изображений и видео за несколько лет. Для маркировки AI-контента Google использует водяной знак SynthID, который, по словам компании, остается видимым даже после сжатия, редактирования и других изменений. Водяной знак встраивается в пиксели или аудиоволны, в отличие от метаданных C2PA, которые легко удалить. Google DeepMind ученый Пушмит Кохли заявил, что SynthID разработан как устойчивый способ маркировки. Однако, несмотря на это, система не решает проблему AI-дезинформации, так как водяной знак можно обойти.
- Сокращения
- C2PA = Coalition for Content Provenance and Authenticity — Коалиция за происхождение и подлинность контента
Source: Ars Technica —
original