Anthropic, OpenAI und Google kennzeichnen generierte Texte mit unsichtbaren KI-Wasserzeichen

Anthropic hat seine Dokumentation aktualisiert und angekündigt, dass Claude auf Modellebene unsichtbare Wasserzeichen in generierten Texten einbetten wird, die Kopieren und Einfügen sowie Bearbeitungen überstehen, und zusätzlich C2PA-Metadaten zu generierten Dateien und Bildern hinzufügen wird. Dies wird für alle Claude-Modelle gelten, die am oder nach dem 2. August 2026 auf den Markt kommen, mit einer Übergangsfrist für aktuelle Modelle, offenbar um sich an den europäischen KI-Gesetz (European AI Act) anzupassen. Dies wird weltweit eingesetzt, nicht nur in der EU. Artikel 50 des KI-Gesetzes, der ab dem 2. August 2026 in Kraft tritt, verpflichtet Anbieter generativer KI, Ausgaben als maschinenlesbare synthetische Inhalte zu kennzeichnen, und verlangt von Bereitstellern, Deepfakes und generierte Texte zu Themen von öffentlichem Interesse offenzulegen. Die Europäische Kommission hat einen Verhaltenskodex in zwei Abschnitten (Anbieter und Bereitsteller) mit freiwilliger Unterzeichnung, aber verpflichtender Einhaltung herausgegeben, mit Geldstrafen von bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes. Etwa 190 Organisationen haben unterzeichnet, darunter Google, Microsoft, OpenAI, Anthropic, Mistral und Meta (in Russland als extremistisch verboten) im Anbieterabschnitt, während Bereitsteller wie Getty Images, Lufthansa, Bulgari, Lenovo, Iberdrola und griechische Nachrichtenseiten unterzeichnet haben, aber nicht die großen Tech-Plattformen. Menschen können diese Wasserzeichen nicht visuell erkennen; zum Beispiel versteckt Googles SynthID Wasserzeichen in der Musterung der Wortwahl, nicht in speziellen unsichtbaren Zeichen. Der Text weist auch darauf hin, dass KI-generierter Text von der Kennzeichnung ausgenommen sein kann, wenn er einer menschlichen Überarbeitung mit Verantwortung unterzogen wurde, und dass aktuelle Detektoren wie GPTZero unzuverlässig sind, da ein Test einen Gemini-Output als menschlich geschrieben fehlidentifizierte. OpenAI hat einen öffentlichen Verifizierer mit API für Bilder und Audio gestartet, aber noch nicht für Text, während Google SynthID-Erkennung nur ausgewählten Medien und Forschern zur Verfügung stellt. Der Artikel erwähnt, dass X automatisch KI-Inhalte kennzeichnet und LinkedIn einen Button für Inhalte hat, die wie KI-Schrott aussehen.