Anthropic wird KI-verarbeitete Inhalte in allen neuen Modellen mit Wasserzeichen versehen

Anthropic hat angekündigt, maschinenlesbare Wasserzeichen zu Inhalten hinzuzufügen, die von seinen Modellen nicht nur erzeugt, sondern auch verarbeitet werden, und diese ab dem ersten Tag mit allen neuen Modellen weltweit auszurollen. Der Schritt dient der Einhaltung des EU-KI-Gesetzes (AI Act), das die Kennzeichnung von KI-generierten oder manipulierten Inhalten vorschreibt, mit einer Frist für neue Modelle nach dem 2. August und einer Übergangsfrist bis Dezember 2026 für zuvor veröffentlichte Modelle. Textausgaben erhalten unsichtbare eingebettete Wasserzeichen, während andere generierte Dateien, sofern unterstützt, digital signierte Provenienz-Metadaten enthalten. Interessanterweise wendet Anthropic Wasserzeichen auf alle verarbeiteten Inhalte an, einschließlich Fällen, in denen die KI nur eine unterstützende Funktion wie Grammatikkorrektur ausübt, was die EU-Leitlinien nicht vorschreiben. Dies könnte dazu führen, dass Inhalte gekennzeichnet werden, die das Gesetz eigentlich ausschließen wollte, und das tatsächliche Ausmaß der Kennzeichnung wird erst klar, wenn Anthropic ein Erkennungstool veröffentlicht, das es planmäßig bereitstellen wird, um die vom EU-Recht geforderte technische Unterstützung zu bieten. Für Nicht-Text-Inhalte verwendet Anthropic den C2PA-Metadatenansatz, obwohl Wasserzeichen auf einigen Plattformen oder Funktionen möglicherweise nicht funktionieren.