Wodny znak Claude’a ominięty w kilka godzin. Co to mówi o pochodzeniu tekstu?

Według opisu „Wired” podejście Meyera polega na wykorzystaniu nieoznaczonego modelu językowego do przygotowania wielu przeredagowanych wersji tekstu. Model zastępuje synonimy i zmienia konstrukcję zdań, starając się zachować sens. W ten sposób narusza sam wzorzec doboru słów, na którym opiera się detekcja.

Inne narzędzia dostępne w przeglądarce atakują różne elementy tekstu. Mogą usuwać niewidzialne lub podobne do siebie znaki Unicode, przestawiać zdania i zastępować słowa synonimami. Jako możliwe sposoby zakłócenia sygnału wskazywano także skracanie tekstu oraz tłumaczenie go na inny język i z powrotem. Nie należy jednak mylić tych metod z usuwaniem właściwego znaku wodnego Claude’a: Anthropic twierdzi, że nie jest on danymi zapisanymi w ukrytych znakach ani dodatkowymi metadanymi tekstu.

Co właściwie może wykazać detektor?

Anthropic twierdzi, że rozwiązanie bazuje na wersji podejścia SynthID-Text opracowanego przez Google DeepMind. Przy wyborze kolejnego słowa spośród kilku sensownych możliwości Claude wykorzystuje losowość sterowaną tajnym kluczem i powiązaną z wcześniejszymi słowami. Weryfikator może później ocenić, czy cały fragment jest statystycznie zgodny z takim sposobem generowania.

Znak ma być niewidoczny, nie dodawać żadnych znaków ani tokenów oraz nie wpływać w praktyce na znaczenie, jakość, kreatywność, czytelność ani koszt tekstu. Anthropic podkreśla też, że nie zawiera on informacji pozwalających zidentyfikować konkretną osobę, organizację lub rozmowę.

To ważne rozróżnienie: mamy do czynienia z sygnałem atrybucji, a nie osobistym „odciskiem palca”. Wynik detekcji oznacza jedynie prawdopodobieństwo, że Claude uczestniczył w tworzeniu danego fragmentu. Nie pozwala ustalić, kto napisał tekst, dowieść, że człowiek nie brał udziału w jego powstaniu, wskazać treści wygenerowanej przez inny model ani wiarygodnie ocenić krótkich fragmentów.

Ograniczenie jest szczególnie widoczne przy korekcie, lekkiej redakcji, streszczaniu lub tłumaczeniu. Anthropic przyznaje, że po lekkiej edycji znak może pozostać tylko w słowach wybranych przez Claude’a. Jeśli takich słów jest zbyt mało, sygnał może być za słaby, by detektor wyciągnął wiarygodny wniosek.

Atrybucja treści to nie dowód autorstwa

Meyer — jak wynika z relacji „Wired” — nie sprzeciwia się samej atrybucji treści. Rozróżnia ją jednak od niewidocznego oznaczenia, które mogłoby zostać potraktowane jako dowód przeciwko konkretnej osobie. Jego obawy dotyczą sytuacji, w której probabilistyczny sygnał nie odróżnia znacznego udziału AI od zwykłej korekty, redakcji, streszczenia czy tłumaczenia.

Problem dotyczy szerszego pytania o pochodzenie tekstu. Detektor może stwierdzić, że fragment jest statystycznie zgodny z udziałem Claude’a, ale nie powie, jaka część finalnej wersji pochodzi od modelu, ile zmienił człowiek ani kto był autorem pierwotnego pomysłu. Po gruntownej parafrazie, tłumaczeniu, skróceniu lub napisaniu tekstu od nowa granica między „tekstem wygenerowanym przez AI” a „tekstem napisanym przez człowieka z pomocą AI” staje się znacznie mniej wyraźna.

Dostępne źródła nie wskazują, by znakowanie zmieniało własność tekstu Claude’a lub zasadnicze prawa użytkowników do ich wyników. Anthropic przedstawia ten mechanizm jako sposób szacowania możliwego udziału Claude’a, a nie jako roszczenie do własności treści.

Dlaczego parafraza osłabia znak statystyczny?

Znak wodny jest rozłożony w wielu decyzjach dotyczących wyboru słów. Gdy tekst pozostaje w dużej mierze niezmieniony, sygnał może przejść wraz z kopiowaniem i wklejaniem, a także przetrwać część redakcyjnych poprawek. Rozbudowana parafraza, tłumaczenie lub przepisanie tekstu zmienia jednak wystarczająco dużo sformułowań, by sygnał stał się niewykrywalny.

Badacze cytowani przez „Nature” również sceptycznie oceniają możliwość skutecznego odstraszania zmotywowanych osób od przerabiania tekstów generowanych przez AI — także przy użyciu kolejnego modelu językowego. Ich zdaniem można usunąć sygnał, zachowując w dużej mierze pierwotne znaczenie.

Nie oznacza to, że znakowanie jest całkowicie bezużyteczne. Przy dostatecznie długim tekście, który pozostaje bliski oryginalnej wersji wygenerowanej przez model, może dostarczyć maszynowego sygnału pomocnego w rutynowej weryfikacji. Jest jednak znacznie słabszym dowodem trwałego, niezmienionego pochodzenia tekstu — zwłaszcza gdy człowiek gruntownie go przeredagował.

Co naprawdę wynika z EU AI Act?

Właściwy wymóg unijny nakłada przede wszystkim obowiązek na dostawców systemów AI. Mają oni stosować rozwiązania techniczne umożliwiające oznaczanie w formacie czytelnym dla maszyn oraz wykrywanie treści wygenerowanych lub zmanipulowanych przez AI, z uwzględnieniem technicznej wykonalności. Przepisy wymieniają znaki wodne i inne techniki jako możliwe rozwiązania, ale nie gwarantują, że jedna metoda zadziała w każdych warunkach.

Przedstawione źródła nie potwierdzają istnienia ogólnego zakazu unijnego, który zabraniałby niezależnym podmiotom tworzenia lub używania narzędzi usuwających takie oznaczenia. Nie wyjaśniają też, dlaczego Anthropic nie mógł początkowo ograniczyć funkcji wyłącznie do użytkowników w UE. Firma zdecydowała się zamiast tego na globalne stosowanie znaków wszędzie tam, gdzie dostępne są wspierane modele Claude’a.

Wniosek: użyteczny sygnał, ale nie łańcuch dowodowy

Historia wdrożenia Claude’a pokazuje jednocześnie wartość i kruchość znaków wodnych w tekstach AI. Oznaczenie może probabilistycznie wskazywać, że Claude uczestniczył w tworzeniu fragmentu, ale nie jest ukrytymi metadanymi, identyfikatorem użytkownika ani rozstrzygającym dowodem autorstwa.

Pojawienie się narzędzia Meyera w ciągu czterech godzin pokazuje, dlaczego wymóg maszynowego oznaczania z EU AI Act należy traktować przede wszystkim jako środek zwiększający przejrzystość. Może ułatwić rutynowe kontrole tekstu pozostającego blisko oryginału, ale nie zapewnia pewnego śladu pochodzenia po celowej, rozbudowanej przeróbce.