Anthropic erläutert Claudes Wasserzeichen-Ansatz angesichts der EU-KI-Verordnung und Nutzerreaktionen

Anthropic hat am Freitag einen Blogbeitrag veröffentlicht, der die Kennzeichnung von Text beschreibt, der von seinem Chatbot Claude generiert wurde. Der Schritt, der Anfang dieser Woche angekündigt wurde, um dem Transparenzkodex des EU-Gesetzes über künstliche Intelligenz zu entsprechen, löste unter Nutzern eine Debatte aus, wobei einige auf Reddit es als Verschwörung bezeichneten und andere auf X ihre Abonnements kündigten. Der Beitrag erklärt, dass Claude unerkennbare Muster bei Entscheidungen mit geringem Risiko erzeugt, wie zum Beispiel zwischen 'bedeckt' und 'grau', die mit einem Schlüssel erkannt werden können. Anthropic wird den SynthID-Text-Ansatz von Google DeepMind verwenden und plant, eine API zur Erkennung von Wasserzeichen zu veröffentlichen. Es unterscheidet auch Wasserzeichen von Methoden zur KI-Erkennung wie denen von Pangram, die nach stilistischen 'Merkmalen' suchen. Das Unternehmen gab zu, dass eine vollständige Neufassung, die jedes Wasserzeichenwort eliminiert, das Wasserzeichen entfernen würde, aber leichte Bearbeitungen es wahrscheinlich nicht entfernen. Bei korrekturgelesenem oder bearbeitetem Text hängt das Vorhandensein des Wasserzeichens von der Länge und dem Umfang der Bearbeitung ab. Code wird weniger Wasserzeichen enthalten, da das Modell funktionsfähigen Code produzieren muss, obwohl Kommentare Wasserzeichen enthalten können. Schließlich wies Anthropic darauf hin, dass andere große Modellentwickler denselben Verhaltenskodex unterzeichnet haben und ihre eigenen Wasserzeichen implementieren werden.