Anthropic fügt Claude verstecktes Wasserzeichen hinzu, das KI-generierten Text plattformübergreifend verfolgt
Anthropic
Anthropic hat ein verstecktes Wasserzeichensystem für sein KI-Modell Claude eingeführt, das dazu dient, KI-generierten Text zu markieren, sodass er auch dann nachverfolgt werden kann, wenn er kopiert und anderswo eingefügt wird. Die Technologie soll dabei helfen, von KI geschriebene Inhalte zu identifizieren und Missbrauch zu verhindern, obwohl Details zur Umsetzung noch begrenzt sind.
Laut einem Bericht von Benzinga hat Anthropic seinem KI-Modell Claude ein verstecktes Wasserzeichen hinzugefügt, das generierten Text überallhin begleitet, wo er eingefügt wird. Das Wasserzeichen ist für Nutzer unsichtbar, kann aber verwendet werden, um den Ursprung des Textes zu überprüfen. Dieser Schritt ist Teil breiterer Bemühungen, Bedenken hinsichtlich KI-generierter Inhalte wie Fehlinformationen und Plagiaten anzugehen. Die genauen technischen Details zur Funktionsweise des Wasserzeichens wurden nicht vollständig offengelegt, es wird jedoch erwartet, dass es in bestehende Methoden zur Inhaltsauthentifizierung integriert wird. Der Bericht merkt an, dass diese Funktion erhebliche Auswirkungen auf Inhaltsersteller, Verleger und Plattformen haben könnte, die zwischen menschlich verfassten und KI-generierten Texten unterscheiden müssen.
Quelle: Anthropic (GNews) —
Original