Claude får usynligt vandmærke: Det kan det afsløre – og det kan det ikke

Det bør ikke forveksles med synlige mærkater, skjulte specialtegn, bruger-id'er eller en copyright-meddelelse. Anthropic oplyser, at tekstvandmærket ikke indeholder oplysninger, der kan spores til en bestemt person, organisation, samtale eller chat.

Hvorfor bliver vandmærket indført globalt?

Anthropic peger på artikel 50 i EU's AI-forordning og selskabets tilslutning til den tilhørende adfærdskodeks om gennemsigtighed for AI-genereret indhold. Reglerne kræver, at udbydere, der betjener EU-markedet, gør visse former for AI-genereret indhold identificerbare i et maskinlæsbart format.

I stedet for at have én politik i EU og en anden i resten af verden har Anthropic valgt at anvende mærkningen, hvor understøttede Claude-modeller er tilgængelige. Det giver én modelbaseret standard for API-kunder, virksomheder, udviklere og privatbrugere, selv om ikke alle platforme eller funktioner nødvendigvis understøtter alle typer mærkning.

Sådan fungerer det usynlige tekstvandmærke

Teknikken bygger på et statistisk mønster i modellens valg af tokens – de mindre tekstdele, som en sprogmodel sammensætter teksten af. Når flere formuleringer er mulige, ændrer vandmærket den tilfældighedskilde, der bruges til at træffe visse valg med lav betydning for indholdet. Over mange valg opstår et nøglebaseret mønster, som senere kan undersøges. Anthropic beskriver metoden som beslægtet med Google DeepMinds SynthID-Text-teknik.

Der sker ingen synlig ændring i dokumentet. Systemet indsætter ikke særlige tegn eller ekstra tokens, og Anthropic siger, at det ikke skal påvirke formulering, kreativitet, læsbarhed eller omkostninger mærkbart. Selskabet oplyser også, at interne tests ikke viste nogen kvalitetsforringelse.

Fordi signalet er fordelt over almindelige ordvalg, adskiller det sig fra filmetadata, som kan forsvinde, når en fil eksporteres eller skrives om. Kopiering og indsætning, ændret formatering og visse mindre redigeringer kan derfor efterlade nok af mønsteret til, at det kan registreres. Men det er en sandsynlighedsbaseret egenskab – ikke en garanti.

Overlever vandmærket oversættelse, opsummering og korrektur?

Ikke pålideligt. Oversættelse, opsummering, parafrasering og omfattende redigering erstatter mange af de oprindelige ordvalg, som signalet bygger på. En bearbejdet tekst kan i nogle tilfælde stadig indeholde spor, men Anthropic giver ikke grundlag for at konkludere, at enhver oversættelse, opsummering, korrekturgennemgang eller redigering bevarer vandmærket.

Korte tekststykker er en anden væsentlig begrænsning. Detektionssikkerheden bliver normalt bedre, jo mere tekst der er til rådighed. Et kort svar – eller en korrekturopgave, hvor Claude kun ændrer nogle få ord – kan indeholde for lidt Claude-genereret materiale til at give et meningsfuldt resultat.

Det skaber en vigtig forskel mellem, om Claude faktisk har været involveret, og om involveringen kan påvises. En tekst kan være blevet behandlet af Claude uden at udløse et tydeligt positivt resultat, og fraværet af et mærke beviser ikke, at teksten udelukkende er skrevet af et menneske.

Hvad betyder et positivt detektionsresultat?

Et positivt resultat besvarer et snævert spørgsmål: Hvor sandsynligt er det, at Claude har medvirket til at skrive en del af teksten?

Det fastslår ikke:

• hvem der skrev prompten til Claude;
• hvem der skrev det oprindelige materiale eller den øvrige tekst;
• om et menneske efterfølgende har redigeret teksten væsentligt;
• om Claude genererede hele dokumentet;
• om brugeren har overtrådt regler på en skole, arbejdsplads, hos en udgiver eller på en platform; eller
• hvem der ejer værket eller har det juridiske ansvar for det.

Vandmærket kan heller ikke identificere en bestemt bruger, organisation eller chat. Anthropics nøgle kan desuden ikke identificere tekst fra en anden AI-udbyder.

Anthropic har sagt, at selskabet vil tilbyde en API til detektion. Den vil adskille sig fra generiske AI-detektorer, der forsøger at vurdere forfatterskab ud fra sproglige mønstre eller formodede "AI-kendetegn". Et vandmærkedetektorværktøj vil i stedet lede efter en bevidst, nøglebaseret statistisk signatur.

Hvorfor mener kritikere, at systemet rammer for bredt?

Debatten handler især om forskellen mellem at få genereret nyt syntetisk indhold og at bruge AI til almindelig redaktionel hjælp. Kritikere frygter, at et vandmærke på modelniveau behandler et fuldt AI-genereret essay og en overvejende menneskeskrevet tekst, der kun har fået hjælp til stavning, grammatik, klarhed, oversættelse eller tilgængelighed, som samme type problem.

Det er baggrunden for kritikken af, at systemet bruger en "forhammer i stedet for en skalpel": Et standardmærke på tværs af en models output kan være bredere end det anvendelsesområde, som gennemsigtighedsreglerne egentlig skal håndtere. Bekymringen bliver særlig alvorlig, hvis en skole, arbejdsgiver, udgiver eller platform opfatter et mærke som bevis på snyd eller regelbrud.

Anthropics tekniske forklaring begrænser risikoen i visse redigeringssituationer: En let korrektur kan efterlade for få Claude-valgte ord til, at detektion bliver sikker. Men det er en begrænsning i den statistiske sikkerhed – ikke en brugerrettet undtagelse og ikke en pålidelig test af forfatterskab.

Hvordan adskiller Claude sig fra Google, OpenAI, Meta og Microsoft?

Sammenligningen kræver, at man skelner mellem flere ting, som ofte blandes sammen:

1. at tilslutte sig en europæisk adfærdskodeks om gennemsigtighed;
2. at vedhæfte oprindelsesdata til filer;
3. at tilføje synlige mærkater; og
4. at indlejre et statistisk vandmærke i tekst.

Anthropic siger, at andre store AI-udbydere har underskrevet den samme EU-kodeks og vil implementere deres egne systemer. Det betyder ikke, at Google, OpenAI, Meta og Microsoft bruger samme metode, dækker de samme produkter eller har identiske regler for detektion og mærkning.

Anthropics tekstmetode er beslægtet med Google DeepMinds offentliggjorte SynthID-Text-familie, mens C2PA anvendes separat til oprindelsesmetadata i understøttede filer. De tilgængelige kilder er ikke tilstrækkelige til at konkludere, at alle fire nævnte virksomheder har indført et globalt tekstvandmærke, der svarer til Anthropics på tværs af deres tekstprodukter.

Modreaktioner og det praktiske problem

Udrulningen har udløst bekymring blandt Claude-brugere, som frygter, at AI-assistance kan blive afsløret i forbindelse med skolearbejde, job, udgivelser eller kommercielt arbejde. Der har også været rapporter om brugere, der har truet med eller hævdet at opsige deres abonnementer på grund af politikken.

Andre har undersøgt værktøjer, der forsøger at fjerne eller omgå vandmærket. Meningsfuld omskrivning, parafrasering, oversættelse, opsummering eller nygenerering kan svække eller fjerne et statistisk signal. Netop derfor kan et negativt resultat ikke frikende nogen for at have brugt AI. Omvendt kan et positivt resultat afspejle begrænset assistance snarere end, at Claude har skrevet hele teksten.

For institutioner er den mest forsvarlige konklusion enkel: En vandmærkedetektor bør være ét bevis blandt flere – ikke automatisk føre til en afgørelse om snyd eller uredelighed. En seriøs vurdering bør også se på sammenhængen, kladder og versionshistorik, gældende regler om oplysning af AI-brug, hvilken type hjælp der blev anvendt, og brugerens mulighed for at forklare sig. Menneskelig vurdering er især vigtig ved korrektur, oversættelse, tilgængelighed og fælles skriveprocesser.

Claude-vandmærket kan gøre det lettere at undersøge, om AI har været involveret, men det løser ikke det vanskeligere spørgsmål om forfatterskab. Den afgørende skelnen er mellem signal og bevis: Det første kan understøtte gennemsigtighed, mens det sidste kræver en kontekst, som et statistisk mærke ikke kan levere.