Anthropic·OpenAI·Google, 생성 텍스트에 보이지 않는 AI 워터마크 표시

Anthropic은 문서를 업데이트하여 Claude가 모델 수준에서 생성된 텍스트에 보이지 않는 워터마크를 삽입할 것이라고 밝혔습니다. 이 워터마크는 복사-붙여넣기와 편집에도 살아남으며, 생성된 파일과 이미지에는 C2PA 메타데이터도 추가할 예정입니다. 이는 2026년 8월 2일 이후 출시되는 모든 Claude 모델에 적용되며, 현재 모델에는 전환 기간이 주어집니다. 이는 유럽의 AI법에 맞추기 위한 것으로 보이며, EU뿐만 아니라 전 세계적으로 배포될 것입니다. AI법 제50조는 2026년 8월 2일부터 시행되며, 생성형 AI 제공업체가 출력물을 기계 판독 가능한 합성 콘텐츠로 표시하도록 요구하고, 배포자는 딥페이크와 공익 주제에 대한 생성 텍스트를 공개하도록 요구합니다. 유럽 위원회는 제공업체와 배포자 두 부분으로 나뉜 실행 규범을 발표했으며, 서명은 자발적이지만 준수는 의무적이며, 위반 시 최대 1,500만 유로 또는 전 세계 매출의 3%에 해당하는 벌금이 부과됩니다. 약 190개 조직이 서명했으며, 제공업체 부분에는 구글, 마이크로소프트, 오픈AI, Anthropic, Mistral, 메타(러시아에서 극단주의로 금지됨)가 포함되고, 배포자 부분에는 게티이미지, 루프트한자, 불가리, 레노버, 이베르드롤라, 그리스 뉴스 사이트 등이 서명했지만 빅테크 플랫폼은 포함되지 않았습니다. 사람들은 이러한 워터마크를 육안으로 감지할 수 없습니다. 예를 들어, 구글의 SynthID는 특수 보이지 않는 문자 대신 단어 선택 패턴에 워터마크를 숨깁니다. 또한, AI 생성 텍스트가 인간의 편집과 책임을 거치면 라벨링이 면제될 수 있으며, GPTZero와 같은 현재 탐지 도구는 신뢰할 수 없으며, 한 테스트에서 Gemini 출력물을 인간이 작성한 것으로 잘못 식별했다고 언급합니다. OpenAI는 이미지와 오디오에 대한 공개 검증기를 API로 출시했지만 텍스트는 아직 제공하지 않으며, 구글은 SynthID 탐지를 일부 미디어와 연구자에게만 제공합니다. 기사에서는 X가 AI 콘텐츠를 자동으로 라벨링하고, LinkedIn에는 AI 슬롭과 유사한 콘텐츠에 대한 버튼이 있다고 언급합니다.