Claudes usynlige vannmerke: Dette oppdager det – og dette gjør det ikke

Dette må ikke forveksles med synlige merkelapper, skjulte tegn, kontoinformasjon eller en opphavsrettsnotis. Anthropic sier at tekstvannmerket ikke inneholder informasjon som kan knyttes til en bestemt person, organisasjon, samtale eller chat.

Hvorfor innføres vannmerket globalt?

Anthropic viser til artikkel 50 i EUs AI-forordning og selskapets tilslutning til den tilhørende praksiskoden for åpenhet om AI-generert innhold. Reglene krever at leverandører som tilbyr slike tjenester i EU, gjør visse typer AI-generert innhold identifiserbart i et maskinlesbart format.

I stedet for å lage én løsning for EU og en annen for resten av verden, har Anthropic valgt å bruke samme modellbaserte standard der støttede Claude-modeller er tilgjengelige. Det gjelder API-kunder, bedrifter, utviklere og privatbrukere, selv om enkelte plattformer eller funksjoner ikke nødvendigvis støtter alle typer merking.

Slik fungerer det usynlige tekstvannmerket

Teknikken bygger på et statistisk mønster i hvordan modellen velger neste token – en liten tekstbit som kan være et ord, en del av et ord eller et tegn. Når flere formuleringer er like plausible, justeres kilden til tilfeldighetene som avgjør noen av de mindre viktige valgene. Over mange slike valg oppstår et nøkkelbasert mønster som kan oppdages senere. Anthropic beskriver metoden som beslektet med Google DeepMinds SynthID-Text-teknikk.

Ingenting endres synlig i dokumentet. Systemet setter ikke inn spesialtegn eller ekstra tokens, og Anthropic sier at det ikke skal påvirke formulering, kreativitet, lesbarhet eller kostnad i vesentlig grad. Selskapet opplyser også at interne tester ikke viste noen kvalitetsendring.

Fordi signalet er fordelt på vanlige ordvalg, er det annerledes enn metadata i en fil, som kan forsvinne når filen eksporteres eller skrives om. Kopiering og liming, endret formatering og enkelte lette redigeringer kan derfor la nok av mønsteret være igjen til at teksten kan oppdages. Dette er likevel sannsynlighetsbasert – ikke en garanti.

Overlever vannmerket oversettelse, oppsummering eller korrektur?

Ikke pålitelig. Oversettelse, oppsummering, parafrasering og omfattende redigering erstatter mange av ordvalgene som bærer signalet. En bearbeidet tekst kan i noen tilfeller fortsatt inneholde spor som lar seg oppdage, men Anthropic gir ikke grunnlag for å si at enhver oversettelse, oppsummering, korrekturrunde eller redigering bevarer vannmerket.

Korte tekstutdrag er en annen viktig begrensning. Deteksjonen blir normalt sikrere når det finnes mer tekst å analysere. Et kort svar – eller en korrekturjobb der Claude bare endrer noen få ord – kan inneholde for lite tekst valgt av Claude til å gi et meningsfullt resultat.

Det betyr at det er forskjell på at et vannmerke faktisk kan være til stede, og at det lar seg oppdage. En tekst kan ha vært innom Claude uten å gi et tydelig positivt treff. På samme måte kan et manglende treff ikke bevise at teksten er skrevet utelukkende av et menneske.

Hva betyr et positivt treff?

Et positivt resultat svarer på et smalt spørsmål: Hvor sannsynlig er det at Claude har bidratt til å skrive deler av teksten?

Det fastslår ikke:

• hvem som skrev den opprinnelige teksten eller ga instruksjonen;
• hvem som skrev resten av dokumentet;
• om et menneske bearbeidet teksten betydelig;
• om Claude genererte hele dokumentet;
• om brukeren brøt regler på skolen, arbeidsplassen, i forlagsbransjen eller på en plattform; eller
• hvem som eier verket eller har det juridiske ansvaret.

Vannmerket kan heller ikke identifisere en bestemt bruker, organisasjon eller chat. Anthropic opplyser dessuten at selskapets nøkkel ikke kan brukes til å identifisere tekst fra en annen AI-leverandør.

Anthropic har sagt at selskapet planlegger et eget API for deteksjon. Det vil skille seg fra generelle AI-detektorer, som forsøker å trekke slutninger om forfatterskap ut fra språklige mønstre eller antatte «AI-kjennetegn». Et vannmerkeverktøy vil i stedet lete etter en bevisst, statistisk signatur laget med en nøkkel.

Hvorfor kritikere mener løsningen kan bli for bred

Kjernen i debatten er forskjellen mellom å generere nytt syntetisk innhold og å gi vanlig redaksjonell hjelp. Kritikere mener at et vannmerke på modellnivå kan behandle en tekst skrevet nesten helt av et menneske – men som har fått hjelp til stavekontroll, grammatikk, klarhet, oversettelse eller tilgjengelighet – på samme måte som et fullt ut AI-generert essay.

Det er bakgrunnen for kritikken om at Anthropic bruker «slegge i stedet for skalpell»: Et standardisert vannmerke på all tekst fra en modell kan favne langt bredere enn bruken åpenhetsreglene først og fremst skal regulere.

Anthropics tekniske forklaring begrenser risikoen i enkelte redigeringssituasjoner. En lett korrektur kan etterlate for få Claude-valgte ord til at deteksjonen blir sikker. Men dette er en teknisk begrensning i sannsynligheten – ikke et brukerrettet unntak og ikke en pålitelig test av forfatterskap.

Hvordan skiller dette seg fra Google, OpenAI, Meta og Microsoft?

Sammenligningen krever at man skiller mellom flere ting som ofte blandes sammen:

1. å slutte seg til en europeisk åpenhetskode;
2. å legge opphavsmetadata ved filer;
3. å bruke synlige merkelapper; og
4. å bygge et statistisk vannmerke inn i tekst.

Anthropic sier at andre store AI-leverandører har signert den samme EU-koden og vil innføre egne systemer. Det betyr ikke at Google, OpenAI, Meta og Microsoft bruker samme metode, dekker de samme produktene eller har identiske regler for deteksjon.

Anthropics tekstmetode er beslektet med Google DeepMinds publiserte SynthID-Text-familie, mens C2PA brukes separat for opphavsmetadata i støttede filer. Kildene som foreligger, er ikke tilstrekkelige til å slå fast at alle de fire selskapene har innført et globalt tekstvannmerke tilsvarende Claudes på tvers av sine tekstprodukter.

Brukerreaksjoner og det praktiske problemet

Innføringen har utløst bekymring blant Claude-brukere som frykter at AI-hjelp skal kunne avsløres i skolearbeid, på arbeidsplassen, i publisering eller i kommersielle sammenhenger. Det er også meldt om brukere som truer med eller hevder å ha sagt opp abonnementene sine på grunn av ordningen.

Andre har undersøkt metoder for å svekke eller fjerne vannmerket. Meningsfull omskriving, parafrasering, oversettelse, oppsummering eller ny generering kan svekke et statistisk signal. Nettopp derfor kan et negativt resultat ikke frikjenne noen for bruk av AI. På den andre siden kan et positivt resultat gjenspeile begrenset hjelp fra Claude – ikke at hele teksten er skrevet av modellen.

For skoler, arbeidsgivere, forlag og plattformer er den tryggeste konklusjonen enkel: Et vannmerkefunn bør være ett bevismoment blant flere, ikke en automatisk avgjørelse om fusk eller regelbrudd. En seriøs vurdering bør også se på konteksten, utkast- og versjonshistorikken, gjeldende regler for åpenhet, hvilken type hjelp som ble brukt, og brukerens mulighet til å forklare seg. Menneskelig vurdering er særlig viktig ved korrektur, oversettelse, tilgjengelighet og samskriving.

Claudes vannmerke kan gjøre det enklere å undersøke om AI har vært involvert, men det løser ikke det vanskeligere spørsmålet om forfatterskap. Det avgjørende skillet går mellom signal og bevis: Det første kan støtte åpenhet, mens det andre krever en kontekst et statistisk merke alene ikke kan gi.