Anthropics Wasserzeichen übersteht Kopieren und Einfügen, aber nicht den echten Entwickler-Workflow
Anthropic
Laut einem Bericht von The New Stack übersteht das KI-Wasserzeichensystem von Anthropic das Kopieren und Einfügen, hält jedoch nicht den realen Entwickler-Workflows stand. Die Wasserzeichen-Technologie soll KI-generierten Text identifizieren, erweist sich jedoch als wirkungslos, wenn Entwickler Code modifizieren oder ihn in ihren normalen Prozessen verwenden.
Anthropic hat eine Wasserzeichentechnik entwickelt, um KI-generierten Text zu kennzeichnen, die auch nach dem Kopieren und Einfügen intakt bleibt. Tests zeigen jedoch, dass das Wasserzeichen den tatsächlichen Entwicklungsablauf nicht übersteht: Wenn Entwickler die KI-Ausgabe bearbeiten, neu formatieren oder in ihre Codebasis integrieren, geht das Wasserzeichen verloren, sodass es unmöglich ist, den Text zurück auf das KI-Modell zu verfolgen. Der Bericht von The New Stack weist auf diese Einschränkung hin und legt nahe, dass Wasserzeichen zwar vom beiläufigen Kopieren abschrecken mögen, für eine robuste Herkunftsverfolgung in der professionellen Softwareentwicklung jedoch unzureichend sind.
Quelle: Anthropic (GNews) —
Original