Anthropic gaat door AI bewerkte inhoud van watermerk voorzien in alle nieuwe modellen

Anthropic heeft aangekondigd dat het machineleesbare watermerken zal toevoegen aan content die door zijn modellen wordt verwerkt, niet alleen gegenereerd, en deze vanaf dag één wereldwijd met alle nieuwe modellen zal uitbrengen. Deze stap is bedoeld om te voldoen aan de Artificial Intelligence Act van de Europese Unie, die watermerking van door AI gegenereerde of gemanipuleerde content verplicht stelt, met een deadline voor nieuwe modellen na 2 augustus en een overgangsperiode tot december 2026 voor eerder uitgebrachte modellen. Tekstuitvoer zal onzichtbare ingebedde watermerken bevatten, terwijl andere gegenereerde bestanden digitaal ondertekende herkomstmetagegevens zullen bevatten waar dit wordt ondersteund. Interessant is dat Anthropic watermerken toepast op alle verwerkte content, inclusief gevallen waarin de AI alleen een ondersteunende functie vervult, zoals grammaticacorrectie, wat de EU-richtlijnen niet vereisen. Dit kan ertoe leiden dat content wordt gestempeld die de wet bedoelde uit te sluiten, en de werkelijke omvang van de watermerking zal pas duidelijk worden wanneer Anthropic een detectietool uitbrengt, wat het van plan is om te doen om de technische ondersteuning te bieden die de EU-wet vereist. Voor niet-tekstuele content zal Anthropic de C2PA-metagegevensbenadering gebruiken, hoewel watermerken mogelijk niet werken op sommige platforms of functies.