Anthropic、EUのAI法遵守とユーザーの反発の中でClaudeの透かしアプローチを詳述

Anthropicは金曜日、チャットボットClaudeが生成したテキストに透かしを入れることについて詳述したブログ記事を公開した。今週初めにEU AI法の透明性規範に準拠するため発表されたこの動きは、ユーザーの間で議論を巻き起こし、Redditでは陰謀論とする声もあれば、Xではサブスクリプションを解約する人も現れた。記事によると、Claudeは「overcast」と「grey」のような重要度の低い語の選択に検出不可能なパターンを作り出し、鍵を使えばそれを検出できるという。AnthropicはGoogle DeepMindのSynthID-Textアプローチを採用し、透かし検出APIの公開を計画している。また、透かしと、PangramなどのAI検出方法（文体の「特徴」を探すもの）を区別している。同社は、すべての透かし語を排除する完全な書き換えは透かしを除去するが、軽い編集ではおそらく除去されないと認めた。校正済みまたは編集済みのテキストでは、透かしの存在は編集の長さと範囲に依存する。コードでは、モデルが機能するコードを生成する必要があるため、透かしは少なくなるが、コメントには透かしが含まれる可能性がある。最後に、Anthropicは他の主要なモデル開発者も同じ行動規範に署名し、独自の透かしを実装するだろうと述べた。