Claudes unsichtbares Wasserzeichen: Ein Schandmal für KI-Texte
Anthropic
Anthropic hat ein unsichtbares Wasserzeichen für sein KI-Modell Claude eingeführt, um KI-generierte Texte zu kennzeichnen. Das Wasserzeichen ist derzeit mit bloßem Auge nicht erkennbar, ist aber ein Schritt zur Identifizierung von KI-Ausgaben. Ars Technica berichtet über die Funktion.
Laut Ars Technica hat Anthropic seinem Claude-KI-Modell ein neues Wasserzeichensystem hinzugefügt. Dieses Wasserzeichen ist unsichtbar, das heißt, es verändert den Text nicht sichtbar, kann aber verwendet werden, um Text als von KI generiert zu markieren. Das System soll ein verstecktes Muster einbetten, das später erkannt werden kann, um die Herkunft des Textes zu verifizieren. Derzeit ist das Wasserzeichen für Benutzer nicht erkennbar, aber es stellt einen bedeutenden Schritt in Richtung der Herkunftssicherung von KI-Inhalten dar. Der Artikel deutet an, dass dies zwar eine vielversprechende Entwicklung ist, es jedoch abzuwarten bleibt, wie robust es gegenüber Versuchen sein wird, das Wasserzeichen zu entfernen oder zu verändern.
Quelle: Anthropic (GNews) —
Original