Claude의 텍스트 워터마킹 작동 방식

Anthropic은 클로드(Claude)의 텍스트 워터마킹 기능이 어떻게 작동하는지에 대한 기술적 설명을 공개했습니다. 워터마크는 생성된 텍스트에 내장된 보이지 않는 패턴으로, Anthropic이 특정 텍스트가 클로드에 의해 생성되었는지 여부를 감지할 수 있게 해줍니다. 이는 암호화 키에 의해 안내되는 생성 과정에서 그럴듯한 단어 대안들 사이에서 미묘하고 의사 난수적인 선택을 함으로써 작동합니다. 이는 나중에 인식될 수 있는 통계적 서명을 만들어내면서도, 독자들에게는 눈에 띄지 않게 유지됩니다. 이 시스템은 AI 생성 콘텐츠의 추적 가능성을 제공함으로써 오용을 완화하는 데 도움을 주도록 설계되었습니다. Anthropic은 워터마크가 견고하며 텍스트의 품질이나 유창성을 저해하지 않는다는 점을 강조합니다.