Anthropic's watermerk overleeft kopiëren en plakken, maar niet de echte ontwikkelworkflow
Anthropic
Het AI-watermerk van Anthropic overleeft kopiëren en plakken, maar blijkt niet bestand tegen realistische ontwikkelworkflows, zo blijkt uit een rapport van The New Stack. De watermerktechnologie is bedoeld om AI-gegenereerde tekst te identificeren, maar blijkt ineffectief wanneer ontwikkelaars code aanpassen of het binnen hun normale processen gebruiken.
Anthropic heeft een watermerktechniek ontwikkeld om AI-gegenereerde tekst te markeren, die intact blijft na kopiëren en plakken. Uit tests blijkt echter dat het watermerk de daadwerkelijke ontwikkelworkflow niet overleeft: wanneer ontwikkelaars de AI-uitvoer bewerken, herformatteren of integreren in hun codebase, gaat het watermerk verloren, waardoor het onmogelijk wordt om de tekst terug te herleiden naar het AI-model. Het rapport van The New Stack benadrukt deze beperking en suggereert dat watermerken weliswaar incidenteel kopiëren kan ontmoedigen, maar onvoldoende is voor robuuste herkomstregistratie in professionele softwareontwikkeling.
Bron: Anthropic (GNews) —
origineel