Tekstille ja tiedostoille käytetään eri menetelmiä:
Kyse ei ole näkyvästä tunnisteesta, piilomerkeistä, käyttäjätilin tiedoista tai tekijänoikeusmerkinnästä. Anthropic sanoo, ettei tekstivesileima sisällä tietoja, joiden perusteella se voitaisiin yhdistää tiettyyn henkilöön, organisaatioon, keskusteluun tai chattiin.
Anthropic perustelee muutosta EU:n tekoälysäädöksen 50 artiklalla sekä sitoutumisellaan 50 artiklan 2 kohdan tekoälyn tuottaman sisällön läpinäkyvyyttä koskeviin käytännesääntöihin. Sääntelyn tavoitteena on, että EU-markkinoilla tarjottu tekoälyn tuottama sisältö voidaan tunnistaa koneellisesti.
Anthropic päätti käyttää samaa mallitasoista käytäntöä kaikkialla, missä tuettuja Claude-malleja tarjotaan, sen sijaan että se loisi erillisen EU-version. Tämä koskee siten API-asiakkaita, yrityksiä, kehittäjiä ja kuluttajakäyttäjiä myös EU:n ulkopuolella. Kaikki alustat tai ominaisuudet eivät silti välttämättä tue jokaista merkintätyyppiä.
Menetelmä perustuu tokenien eli tekstin käsittely-yksiköiden valintojen tilastolliseen kuvioon. Kun kielimallilla on useita luontevia tapoja jatkaa lausetta, vesileima muuttaa satunnaisuuden lähdettä joissakin vähämerkityksisissä valinnoissa. Riittävän monen valinnan jälkeen syntyy avaimella tunnistettava kuvio. Anthropic kuvaa tekniikan olevan sukua Google DeepMindin SynthID-Text-menetelmälle.
Lopputuloksessa ei näy mitään poikkeavaa. Järjestelmä ei lisää erikoismerkkejä tai ylimääräisiä tokeneita, eikä Anthropicin mukaan sen ole tarkoitus vaikuttaa olennaisesti sanamuotoon, luovuuteen, luettavuuteen tai kustannuksiin. Yhtiö kertoo, ettei sisäisissä testeissä havaittu vaikutusta laatuun.
Koska signaali kulkee tavallisten sanavalintojen mukana, se eroaa tiedoston metatiedoista, jotka voivat kadota, kun tiedosto viedään toiseen muotoon tai kirjoitetaan uudelleen. Kopiointi ja liittäminen, muotoilun vaihtaminen tai kevyt editointi voivat jättää tekstistä riittävästi alkuperäistä kuviota havaintoa varten. Säilyminen on kuitenkin todennäköisyyteen perustuvaa, ei varmaa.
Ei luotettavasti. Kääntäminen, tiivistäminen, uudelleenmuotoilu ja laaja editointi korvaavat monia alkuperäisiä tokenivalintoja, joihin signaali perustuu. Muokattu teksti voi joissakin tapauksissa sisältää havaittavia jälkiä, mutta lähteet eivät tue väitettä, että jokainen käännös, tiivistelmä, oikolukukierros tai muokkaus säilyttäisi vesileiman.
Myös tekstin pituus vaikuttaa. Mitä enemmän tekstiä on käytettävissä, sitä paremmaksi tunnistamisen varmuus yleensä kasvaa. Lyhyt vastaus tai oikoluku, jossa Claude muuttaa vain muutaman sanan, voi sisältää liian vähän mallin tekemiä valintoja merkityksellistä tulosta varten.
Tästä seuraa olennainen ero vesileiman olemassaolon ja sen havaittavuuden välillä. Claude on voinut käsitellä tekstiä, vaikka havainto ei olisi selvästi positiivinen. Toisaalta vesileiman puuttuminen ei todista, että tekstin kirjoitti kokonaan ihminen.
Positiivinen tulos vastaa kapeaan kysymykseen: kuinka todennäköisesti Claude osallistui jonkin tekstiosan kirjoittamiseen? Se ei osoita:
Vesileima ei myöskään yksilöi käyttäjää, organisaatiota tai keskustelua. Anthropicin avain ei pysty tunnistamaan toisen tekoäly-yhtiön tuottamaa sisältöä.
Anthropic on ilmoittanut suunnittelevansa tunnistusrajapintaa eli detection APIa. Se poikkeaisi yleisistä tekoälytunnistimista, jotka yrittävät päätellä tekijyyttä tekstin tyylin tai niin kutsuttujen tekoälyvihjeiden perusteella. Vesileiman tunnistin etsisi sen sijaan tiettyä avaimella luotua tilastollista allekirjoitusta.
Kritiikki keskittyy uuden tekstin tuottamisen ja tavallisen toimituksellisen avun eroon. Mallitason vesileima voi kohdella samalla tavalla kokonaan tekoälyn laatimaa esseetä ja pääosin ihmisen kirjoittamaa tekstiä, jota Claude on auttanut oikolukemaan, kääntämään, selkeyttämään tai muokkaamaan saavutettavammaksi.
Tätä on kuvattu kritiikillä, jonka mukaan kyseessä on ”leka eikä skalpelli”. Ajatuksena on, että oletusarvoisesti kaikkiin mallin tuotoksiin kohdistuva merkintä voi olla laajempi toimenpide kuin se käyttötapaus, jota läpinäkyvyyssäännöillä alun perin pyritään käsittelemään. Riski korostuu, jos koulu, työnantaja, julkaisija tai verkkoalusta tulkitsee vesileiman automaattisesti väärinkäytön todisteeksi.
Anthropicin tekninen kuvaus lieventää huolta joissakin tilanteissa: kevyt oikoluku voi jättää tekstiin liian vähän Clauden valitsemia sanoja varmaa tunnistusta varten. Tämä on kuitenkin tilastollinen rajoite, ei käyttäjälle annettu poikkeus eikä luotettava tekijyystesti.
Vertailussa on syytä erottaa toisistaan ainakin neljä asiaa:
Anthropicin mukaan muut suuret tekoäly-yhtiöt ovat allekirjoittaneet saman EU-koodin ja toteuttavat omat järjestelmänsä. Tämä ei tarkoita, että Google, OpenAI, Meta ja Microsoft käyttäisivät samaa teknistä menetelmää, kattaisivat samat tuotteet tai tarjoaisivat samanlaiset tunnistus- ja merkintäkäytännöt.
Anthropicin tekstimenetelmä liittyy Google DeepMindin julkaisemaan SynthID-Text-tekniikkaan, kun taas C2PA:ta käytetään erikseen tuettujen tiedostojen alkuperätietoihin. Käytettävissä olevat lähteet eivät riitä osoittamaan, että kaikki neljä mainittua yhtiötä olisivat ottaneet käyttöön Clauden kaltaisen maailmanlaajuisen tekstivesileiman kaikissa tekstituotteissaan.
Käyttöönotto on herättänyt huolta Claude-käyttäjissä, jotka pelkäävät tekoälyn käytön paljastuvan kouluissa, työpaikoilla, julkaisutoiminnassa tai kaupallisissa tehtävissä. Raporttien mukaan osa käyttäjistä on uhannut lopettaa tilauksensa tai kertonut jo tehneensä niin.
Jotkut ovat etsineet myös tapoja heikentää tai kiertää vesileimaa. Merkittävä uudelleenkirjoitus, parafraasi, käännös, tiivistäminen tai tekstin uudelleen tuottaminen voi heikentää tilastollista signaalia. Siksi negatiivinen tulos ei vapauta ketään tekoälyn käytön epäilystä. Toisaalta positiivinen tulos voi kertoa rajatusta avusta eikä koko tekstin tuottamisesta.
Kouluille, työnantajille, julkaisijoille ja alustoille johtopäätös on selvä: vesileiman tunnistuksen pitäisi olla yksi todiste muiden joukossa, ei automaattinen päätös vilpistä tai muusta väärinkäytöstä. Arviossa olisi huomioitava asiayhteys, luonnos- ja versiohistoria, sovellettavat ilmoitussäännöt, käytetyn avun laajuus sekä henkilön mahdollisuus selittää toimintaansa. Ihmisen tekemä arvio on erityisen tärkeä oikoluvussa, kääntämisessä, saavutettavuustyössä ja yhteiskirjoittamisessa.
Claudeen lisätty vesileima voi helpottaa tekoälyn osallistumisen selvittämistä, mutta se ei ratkaise tekijyyden vaikeampaa kysymystä. Olennaista on erottaa signaali ja todiste: ensimmäinen voi tukea läpinäkyvyyttä, kun taas jälkimmäinen vaatii asiayhteyttä, jota tilastollinen merkintä ei yksin pysty tarjoamaan.
Tekstille ja tiedostoille käytetään eri menetelmiä:
Kyse ei ole näkyvästä tunnisteesta, piilomerkeistä, käyttäjätilin tiedoista tai tekijänoikeusmerkinnästä. Anthropic sanoo, ettei tekstivesileima sisällä tietoja, joiden perusteella se voitaisiin yhdistää tiettyyn henkilöön, organisaatioon, keskusteluun tai chattiin.
Anthropic perustelee muutosta EU:n tekoälysäädöksen 50 artiklalla sekä sitoutumisellaan 50 artiklan 2 kohdan tekoälyn tuottaman sisällön läpinäkyvyyttä koskeviin käytännesääntöihin. Sääntelyn tavoitteena on, että EU-markkinoilla tarjottu tekoälyn tuottama sisältö voidaan tunnistaa koneellisesti.
Anthropic päätti käyttää samaa mallitasoista käytäntöä kaikkialla, missä tuettuja Claude-malleja tarjotaan, sen sijaan että se loisi erillisen EU-version. Tämä koskee siten API-asiakkaita, yrityksiä, kehittäjiä ja kuluttajakäyttäjiä myös EU:n ulkopuolella. Kaikki alustat tai ominaisuudet eivät silti välttämättä tue jokaista merkintätyyppiä.
Menetelmä perustuu tokenien eli tekstin käsittely-yksiköiden valintojen tilastolliseen kuvioon. Kun kielimallilla on useita luontevia tapoja jatkaa lausetta, vesileima muuttaa satunnaisuuden lähdettä joissakin vähämerkityksisissä valinnoissa. Riittävän monen valinnan jälkeen syntyy avaimella tunnistettava kuvio. Anthropic kuvaa tekniikan olevan sukua Google DeepMindin SynthID-Text-menetelmälle.
Lopputuloksessa ei näy mitään poikkeavaa. Järjestelmä ei lisää erikoismerkkejä tai ylimääräisiä tokeneita, eikä Anthropicin mukaan sen ole tarkoitus vaikuttaa olennaisesti sanamuotoon, luovuuteen, luettavuuteen tai kustannuksiin. Yhtiö kertoo, ettei sisäisissä testeissä havaittu vaikutusta laatuun.
Koska signaali kulkee tavallisten sanavalintojen mukana, se eroaa tiedoston metatiedoista, jotka voivat kadota, kun tiedosto viedään toiseen muotoon tai kirjoitetaan uudelleen. Kopiointi ja liittäminen, muotoilun vaihtaminen tai kevyt editointi voivat jättää tekstistä riittävästi alkuperäistä kuviota havaintoa varten. Säilyminen on kuitenkin todennäköisyyteen perustuvaa, ei varmaa.
Ei luotettavasti. Kääntäminen, tiivistäminen, uudelleenmuotoilu ja laaja editointi korvaavat monia alkuperäisiä tokenivalintoja, joihin signaali perustuu. Muokattu teksti voi joissakin tapauksissa sisältää havaittavia jälkiä, mutta lähteet eivät tue väitettä, että jokainen käännös, tiivistelmä, oikolukukierros tai muokkaus säilyttäisi vesileiman.
Myös tekstin pituus vaikuttaa. Mitä enemmän tekstiä on käytettävissä, sitä paremmaksi tunnistamisen varmuus yleensä kasvaa. Lyhyt vastaus tai oikoluku, jossa Claude muuttaa vain muutaman sanan, voi sisältää liian vähän mallin tekemiä valintoja merkityksellistä tulosta varten.
Tästä seuraa olennainen ero vesileiman olemassaolon ja sen havaittavuuden välillä. Claude on voinut käsitellä tekstiä, vaikka havainto ei olisi selvästi positiivinen. Toisaalta vesileiman puuttuminen ei todista, että tekstin kirjoitti kokonaan ihminen.
Positiivinen tulos vastaa kapeaan kysymykseen: kuinka todennäköisesti Claude osallistui jonkin tekstiosan kirjoittamiseen? Se ei osoita:
Vesileima ei myöskään yksilöi käyttäjää, organisaatiota tai keskustelua. Anthropicin avain ei pysty tunnistamaan toisen tekoäly-yhtiön tuottamaa sisältöä.
Anthropic on ilmoittanut suunnittelevansa tunnistusrajapintaa eli detection APIa. Se poikkeaisi yleisistä tekoälytunnistimista, jotka yrittävät päätellä tekijyyttä tekstin tyylin tai niin kutsuttujen tekoälyvihjeiden perusteella. Vesileiman tunnistin etsisi sen sijaan tiettyä avaimella luotua tilastollista allekirjoitusta.
Kritiikki keskittyy uuden tekstin tuottamisen ja tavallisen toimituksellisen avun eroon. Mallitason vesileima voi kohdella samalla tavalla kokonaan tekoälyn laatimaa esseetä ja pääosin ihmisen kirjoittamaa tekstiä, jota Claude on auttanut oikolukemaan, kääntämään, selkeyttämään tai muokkaamaan saavutettavammaksi.
Tätä on kuvattu kritiikillä, jonka mukaan kyseessä on ”leka eikä skalpelli”. Ajatuksena on, että oletusarvoisesti kaikkiin mallin tuotoksiin kohdistuva merkintä voi olla laajempi toimenpide kuin se käyttötapaus, jota läpinäkyvyyssäännöillä alun perin pyritään käsittelemään. Riski korostuu, jos koulu, työnantaja, julkaisija tai verkkoalusta tulkitsee vesileiman automaattisesti väärinkäytön todisteeksi.
Anthropicin tekninen kuvaus lieventää huolta joissakin tilanteissa: kevyt oikoluku voi jättää tekstiin liian vähän Clauden valitsemia sanoja varmaa tunnistusta varten. Tämä on kuitenkin tilastollinen rajoite, ei käyttäjälle annettu poikkeus eikä luotettava tekijyystesti.
Vertailussa on syytä erottaa toisistaan ainakin neljä asiaa:
Anthropicin mukaan muut suuret tekoäly-yhtiöt ovat allekirjoittaneet saman EU-koodin ja toteuttavat omat järjestelmänsä. Tämä ei tarkoita, että Google, OpenAI, Meta ja Microsoft käyttäisivät samaa teknistä menetelmää, kattaisivat samat tuotteet tai tarjoaisivat samanlaiset tunnistus- ja merkintäkäytännöt.
Anthropicin tekstimenetelmä liittyy Google DeepMindin julkaisemaan SynthID-Text-tekniikkaan, kun taas C2PA:ta käytetään erikseen tuettujen tiedostojen alkuperätietoihin. Käytettävissä olevat lähteet eivät riitä osoittamaan, että kaikki neljä mainittua yhtiötä olisivat ottaneet käyttöön Clauden kaltaisen maailmanlaajuisen tekstivesileiman kaikissa tekstituotteissaan.
Käyttöönotto on herättänyt huolta Claude-käyttäjissä, jotka pelkäävät tekoälyn käytön paljastuvan kouluissa, työpaikoilla, julkaisutoiminnassa tai kaupallisissa tehtävissä. Raporttien mukaan osa käyttäjistä on uhannut lopettaa tilauksensa tai kertonut jo tehneensä niin.
Jotkut ovat etsineet myös tapoja heikentää tai kiertää vesileimaa. Merkittävä uudelleenkirjoitus, parafraasi, käännös, tiivistäminen tai tekstin uudelleen tuottaminen voi heikentää tilastollista signaalia. Siksi negatiivinen tulos ei vapauta ketään tekoälyn käytön epäilystä. Toisaalta positiivinen tulos voi kertoa rajatusta avusta eikä koko tekstin tuottamisesta.
Kouluille, työnantajille, julkaisijoille ja alustoille johtopäätös on selvä: vesileiman tunnistuksen pitäisi olla yksi todiste muiden joukossa, ei automaattinen päätös vilpistä tai muusta väärinkäytöstä. Arviossa olisi huomioitava asiayhteys, luonnos- ja versiohistoria, sovellettavat ilmoitussäännöt, käytetyn avun laajuus sekä henkilön mahdollisuus selittää toimintaansa. Ihmisen tekemä arvio on erityisen tärkeä oikoluvussa, kääntämisessä, saavutettavuustyössä ja yhteiskirjoittamisessa.
Claudeen lisätty vesileima voi helpottaa tekoälyn osallistumisen selvittämistä, mutta se ei ratkaise tekijyyden vaikeampaa kysymystä. Olennaista on erottaa signaali ja todiste: ensimmäinen voi tukea läpinäkyvyyttä, kun taas jälkimmäinen vaatii asiayhteyttä, jota tilastollinen merkintä ei yksin pysty tarjoamaan.