Mitä Anthropic lisäsi Clauden tuotoksiin?

Tekstissä merkintä syntyy osana tekstin tuottamista. Se ei näy erillisenä ilmoituksena, ylimääräisenä lauseena tai yksinkertaisena piilomerkkinä. Malli painottaa hieman tiettyjä sanavalintoja, minkä jälkeen syntynyttä sanajakaumaa voidaan arvioida tilastollisesti. Anthropic sanoo, ettei menetelmän ole tarkoitus muuttaa vastauksen merkitystä, laatua tai luettavuutta.

Tuetuissa tiedostoissa, kuten SVG-, PNG- ja JPG-muodoissa, käytetään digitaalisesti allekirjoitettuja alkuperätietoja. Kyse on eri mekanismista kuin tekstin vesileimassa: metatiedot voivat muodostaa rakenteisen tiedon siitä, miten tiedosto on syntynyt, kun taas tekstisignaali on kietoutunut itse kieleen.

2. elokuuta alkaneesta määräpäivästä lähtien julkaistut uudet Claude-mallit tukevat merkintää heti julkaisun yhteydessä. Anthropic kertoo lisäävänsä merkintätukea myös vanhempiin malleihin siirtymäaikana. Siksi merkinnän olemassaolo tai puuttuminen voi riippua sekä käytetystä mallista että tuotoksen muodosta.

Mitä vesileima voi osoittaa – ja mitä ei?

Anthropicin mukaan vesileima ei sisällä tunnistetietoja, eikä sitä voi jäljittää tiettyyn henkilöön, organisaatioon tai keskusteluun. Positiivinen tunnistus ei siis ole käyttäjän henkilöllisyystieto eikä kyseisen tekstin tuottanut keskusteluhistoria.

Vielä tärkeämpää on, ettei Claude-signaali ratkaise laajempaa tekijyyskysymystä. Se voi viitata siihen, että Claude osallistui sisällön tuottamiseen tai muokkaamiseen, mutta se ei yksin kerro:

• kuka antoi idean tai ohjeet;
• kuka teki toimitukselliset ratkaisut;
• kuka omistaa lopputuloksen;
• kirjoittiko ihminen tekstin olennaisilta osin uudelleen; tai
• kuka vastaa julkaisusta juridisesti.

Ero on olennainen, koska tekoälyavusteinen työ kulkee usein monen vaiheen kautta. Ihminen voi pyytää Claudelta luonnoksen, muokata sitä voimakkaasti, yhdistää siihen omaa raportointia tai käyttää Claudea vain tekstin editointiin. Vesileima voi tukea alkuperän selvittämistä, mutta se ei pysty yksin luokittelemaan lopullista työtä yksinomaan tekoälyn tai yksinomaan ihmisen tekemäksi.

Miksi merkintä otettiin käyttöön kaikkialla maailmassa?

EU:n tekoälysäädöksen 50 artikla edellyttää, että generatiivisten tekoälyjärjestelmien tarjoajat merkitsevät tekoälyn tuottaman tai muokkaaman sisällön koneluettavassa muodossa. Merkinnän pitää mahdollistaa sen tunnistaminen keinotekoisesti tuotetuksi tai muokatuksi. Vaatimus koskee tekstin lisäksi synteettistä ääntä, kuvaa ja videota.

Anthropic valitsi mallitasolla toteutettavan maailmanlaajuisen käyttöönoton EU-kohtaisen kytkimen sijaan. Raporttien mukaan yksi syy on se, että pysyvän alueellisen rajauksen ylläpitäminen eri Claude-tuotteissa ja jakelukanavissa olisi hankalaa. Käytännössä myös EU:n ulkopuoliset käyttäjät voivat siis saada merkittyä sisältöä, vaikka sääntelyn alkuperäinen sysäys tuli Euroopasta.

Laki määrittelee tavoitteen – tehokkaan, luotettavan, kestävän ja yhteentoimivan tunnistamisen – mutta ei määrää yhtä tiettyä vesileimatekniikkaa. Kaikkien palveluntarjoajien ei tarvitse käyttää samaa tilastollista menetelmää, metatietostandardia tai näkyvää tunnistetta.

Poistotyökalut ilmestyivät nopeasti

Näkyvin varhainen projekti oli Guillaume Meyerin MIT-lisensoitu watermarks-remover. Projektin kuvaus kertoo sen olevan usean palveluntarjoajan työkalu, jolla käyttäjät voivat poistaa omistamastaan tekstistä ja tiedostoista alkuperämerkintöjä, kuten piilotettuja Unicode-merkkejä ja metatietoja. Se tarjoaa myös tekstin uudelleenkirjoittamiseen perustuvaa käsittelyä.

Myöhemmin esiin nousivat muun muassa claude-watermark-cleaner-projekti sekä selainpohjainen työkalu, jonka väitettiin puhdistavan piilotettuja tekoälymerkkejä asiakirjoista ja muista tiedostomuodoista.

Yksi projekteista keräsi tiettävästi 8 983 GitHub-tähteä kolmessa päivässä. Se on huomattava osoitus yleisestä kiinnostuksesta, mutta ei mittari vesileiman poistamisen tarkkuudesta. Työkalu, joka poistaa näkymättömiä Unicode-merkkejä tai tiedoston metatietoja, ei välttämättä vaikuta lainkaan sanavalintoihin upotettuun tilastolliseen signaaliin.

Miksi poistoväitteitä on vaikea todentaa?

Tekstin tilastollinen vesileima ei ole asiakirjaan kiinnitetty pysyvä tunniste. Se perustuu siihen, kuinka suuri osa mallin alkuperäisestä sanavalintojen jakaumasta säilyy myöhemmän käsittelyn jälkeen. Kopiointi, muotoilun vaihtaminen ja kevyt editointi voivat jättää jäljelle riittävästi rakennetta tunnistamista varten. Kääntäminen, parafraasien käyttö, perusteellinen uudelleenkirjoitus tai suuren ihmisen kirjoittaman tekstimäärän yhdistäminen voi puolestaan heikentää tai hävittää signaalin. Anthropic on itse myöntänyt, että merkittävä uudelleenkirjoitus voi poistaa sen.

Tästä seuraa todentamisongelma. Ilman Anthropicin tunnistinta ja teknisiä yksityiskohtia ulkopuolinen ei voi luotettavasti päätellä, onko puhdistustyökalu todella kukistanut tilastollisen kerroksen, poistanut vain siihen liittymätöntä metatietoa vai muuttanut tekstiä niin paljon, ettei tunnistaminen enää anna varmaa tulosta. Siksi varhaisiin väitteisiin tietyn työkalun toimimisesta Claudea vastaan kannattaa suhtautua vahvistamattomina, ei todistettuina teknisinä tuloksina.

Rajoite on rakenteellinen. Jos ihmiset voivat vapaasti muuttaa kieltä, päättelyyn perustuva kuvio voidaan rikkoa muuttamalla itse tekstiä. Vesileiman tekeminen kestävämmäksi voi vähentää virheellisiä kielteisiä tuloksia tavallisen käsittelyn jälkeen, mutta se ei tee muuttuvasta tekstisignaalista aukotonta katkeamatonta alkuperäketjua.

Mitä EU:n 50 artikla määrää – ja mitä se ei kiellä?

50 artikla kohdistaa koneluettavan merkinnän päävelvoitteen asiaankuuluvien tekoälyjärjestelmien tarjoajiin. Tietyissä tilanteissa velvoitteita on myös järjestelmien käyttöönottajilla. Säännöksen ydin on, että synteettinen sisältö on merkittävä ja sen tekoälyperäisyys tai muokkaus on voitava havaita; se ei määrää yhtä yleistä teknologiaa.

EU:n saatavilla oleva ohjeistus ei myöskään muodosta yleistä, erillistä kieltoa, joka estäisi kaikkia kolmansia osapuolia poistamasta sisältöön liitettyä merkintää kaikissa tilanteissa. Ohjeistuksessa huomioidaan tavanomainen editointi, joka ei olennaisesti muuta lähtötietoja tai niiden merkitystä, ja samalla määritellään koneluettavan merkitsemisen kehys.

Tämä ei silti tarkoita, että merkinnän poistaminen olisi aina vailla oikeudellisia seurauksia. Sopimukset, alustojen käyttöehdot, tekijänoikeus, petoksia ja harhaanjohtamista koskevat säännöt, työpaikan tai oppilaitoksen käytännöt sekä alakohtaiset ilmoitusvelvollisuudet voivat vaikuttaa arvioon. Varovaisin johtopäätös on rajatumpi: 50 artiklan tarjoajille asettamaa merkintävelvollisuutta ei pidä sekoittaa takeeseen teknisesti pysyvästä vesileimasta tai yleispätevään sääntöön, joka ratkaisisi kaiken sisällön myöhemmän käytön.

Johtopäätös

Claude-vesileima voi tehdä tekoälyn osallistumisesta helpommin havaittavaa joissakin tilanteissa – etenkin silloin, kun merkitty teksti kopioidaan tai sitä muokataan vain kevyesti ja tiedoston alkuperätiedot säilyvät. Se ei kuitenkaan muodosta ratkaisevaa näyttöä tekijyydestä, henkilöllisyydestä, omistajuudesta tai vastuusta.

Poistotyökalujen ympärille syntynyt kilpajuoksu korostaa samaa eroa. GitHub-projekti voi kerätä tuhansia tähtiä ennen kuin kukaan pystyy riippumattomasti testaamaan sen väitteet, varsinkin jos taustalla oleva tunnistin on yksityinen. Julkaisijoille, opettajille, yrityksille ja alustoille olennaista ei siksi ole vain kysyä, löytyykö vesileima. On selvitettävä, millaista muuta näyttöä on saatavilla, kuinka paljon sisältöä on muokattu, mitkä alkuperätiedot ovat säilyneet ja mitä kyseiseen käyttötapaukseen sovellettavia ilmoitussääntöjä on olemassa.

Mitä Anthropic lisäsi Clauden tuotoksiin?

Tekstissä merkintä syntyy osana tekstin tuottamista. Se ei näy erillisenä ilmoituksena, ylimääräisenä lauseena tai yksinkertaisena piilomerkkinä. Malli painottaa hieman tiettyjä sanavalintoja, minkä jälkeen syntynyttä sanajakaumaa voidaan arvioida tilastollisesti. Anthropic sanoo, ettei menetelmän ole tarkoitus muuttaa vastauksen merkitystä, laatua tai luettavuutta.

Tuetuissa tiedostoissa, kuten SVG-, PNG- ja JPG-muodoissa, käytetään digitaalisesti allekirjoitettuja alkuperätietoja. Kyse on eri mekanismista kuin tekstin vesileimassa: metatiedot voivat muodostaa rakenteisen tiedon siitä, miten tiedosto on syntynyt, kun taas tekstisignaali on kietoutunut itse kieleen.

2. elokuuta alkaneesta määräpäivästä lähtien julkaistut uudet Claude-mallit tukevat merkintää heti julkaisun yhteydessä. Anthropic kertoo lisäävänsä merkintätukea myös vanhempiin malleihin siirtymäaikana. Siksi merkinnän olemassaolo tai puuttuminen voi riippua sekä käytetystä mallista että tuotoksen muodosta.

Mitä vesileima voi osoittaa – ja mitä ei?

Anthropicin mukaan vesileima ei sisällä tunnistetietoja, eikä sitä voi jäljittää tiettyyn henkilöön, organisaatioon tai keskusteluun. Positiivinen tunnistus ei siis ole käyttäjän henkilöllisyystieto eikä kyseisen tekstin tuottanut keskusteluhistoria.

Vielä tärkeämpää on, ettei Claude-signaali ratkaise laajempaa tekijyyskysymystä. Se voi viitata siihen, että Claude osallistui sisällön tuottamiseen tai muokkaamiseen, mutta se ei yksin kerro:

• kuka antoi idean tai ohjeet;
• kuka teki toimitukselliset ratkaisut;
• kuka omistaa lopputuloksen;
• kirjoittiko ihminen tekstin olennaisilta osin uudelleen; tai
• kuka vastaa julkaisusta juridisesti.

Ero on olennainen, koska tekoälyavusteinen työ kulkee usein monen vaiheen kautta. Ihminen voi pyytää Claudelta luonnoksen, muokata sitä voimakkaasti, yhdistää siihen omaa raportointia tai käyttää Claudea vain tekstin editointiin. Vesileima voi tukea alkuperän selvittämistä, mutta se ei pysty yksin luokittelemaan lopullista työtä yksinomaan tekoälyn tai yksinomaan ihmisen tekemäksi.

Miksi merkintä otettiin käyttöön kaikkialla maailmassa?

EU:n tekoälysäädöksen 50 artikla edellyttää, että generatiivisten tekoälyjärjestelmien tarjoajat merkitsevät tekoälyn tuottaman tai muokkaaman sisällön koneluettavassa muodossa. Merkinnän pitää mahdollistaa sen tunnistaminen keinotekoisesti tuotetuksi tai muokatuksi. Vaatimus koskee tekstin lisäksi synteettistä ääntä, kuvaa ja videota.

Anthropic valitsi mallitasolla toteutettavan maailmanlaajuisen käyttöönoton EU-kohtaisen kytkimen sijaan. Raporttien mukaan yksi syy on se, että pysyvän alueellisen rajauksen ylläpitäminen eri Claude-tuotteissa ja jakelukanavissa olisi hankalaa. Käytännössä myös EU:n ulkopuoliset käyttäjät voivat siis saada merkittyä sisältöä, vaikka sääntelyn alkuperäinen sysäys tuli Euroopasta.

Laki määrittelee tavoitteen – tehokkaan, luotettavan, kestävän ja yhteentoimivan tunnistamisen – mutta ei määrää yhtä tiettyä vesileimatekniikkaa. Kaikkien palveluntarjoajien ei tarvitse käyttää samaa tilastollista menetelmää, metatietostandardia tai näkyvää tunnistetta.

Poistotyökalut ilmestyivät nopeasti

Näkyvin varhainen projekti oli Guillaume Meyerin MIT-lisensoitu watermarks-remover. Projektin kuvaus kertoo sen olevan usean palveluntarjoajan työkalu, jolla käyttäjät voivat poistaa omistamastaan tekstistä ja tiedostoista alkuperämerkintöjä, kuten piilotettuja Unicode-merkkejä ja metatietoja. Se tarjoaa myös tekstin uudelleenkirjoittamiseen perustuvaa käsittelyä.

Myöhemmin esiin nousivat muun muassa claude-watermark-cleaner-projekti sekä selainpohjainen työkalu, jonka väitettiin puhdistavan piilotettuja tekoälymerkkejä asiakirjoista ja muista tiedostomuodoista.

Yksi projekteista keräsi tiettävästi 8 983 GitHub-tähteä kolmessa päivässä. Se on huomattava osoitus yleisestä kiinnostuksesta, mutta ei mittari vesileiman poistamisen tarkkuudesta. Työkalu, joka poistaa näkymättömiä Unicode-merkkejä tai tiedoston metatietoja, ei välttämättä vaikuta lainkaan sanavalintoihin upotettuun tilastolliseen signaaliin.

Miksi poistoväitteitä on vaikea todentaa?

Tekstin tilastollinen vesileima ei ole asiakirjaan kiinnitetty pysyvä tunniste. Se perustuu siihen, kuinka suuri osa mallin alkuperäisestä sanavalintojen jakaumasta säilyy myöhemmän käsittelyn jälkeen. Kopiointi, muotoilun vaihtaminen ja kevyt editointi voivat jättää jäljelle riittävästi rakennetta tunnistamista varten. Kääntäminen, parafraasien käyttö, perusteellinen uudelleenkirjoitus tai suuren ihmisen kirjoittaman tekstimäärän yhdistäminen voi puolestaan heikentää tai hävittää signaalin. Anthropic on itse myöntänyt, että merkittävä uudelleenkirjoitus voi poistaa sen.

Tästä seuraa todentamisongelma. Ilman Anthropicin tunnistinta ja teknisiä yksityiskohtia ulkopuolinen ei voi luotettavasti päätellä, onko puhdistustyökalu todella kukistanut tilastollisen kerroksen, poistanut vain siihen liittymätöntä metatietoa vai muuttanut tekstiä niin paljon, ettei tunnistaminen enää anna varmaa tulosta. Siksi varhaisiin väitteisiin tietyn työkalun toimimisesta Claudea vastaan kannattaa suhtautua vahvistamattomina, ei todistettuina teknisinä tuloksina.

Rajoite on rakenteellinen. Jos ihmiset voivat vapaasti muuttaa kieltä, päättelyyn perustuva kuvio voidaan rikkoa muuttamalla itse tekstiä. Vesileiman tekeminen kestävämmäksi voi vähentää virheellisiä kielteisiä tuloksia tavallisen käsittelyn jälkeen, mutta se ei tee muuttuvasta tekstisignaalista aukotonta katkeamatonta alkuperäketjua.

Mitä EU:n 50 artikla määrää – ja mitä se ei kiellä?

50 artikla kohdistaa koneluettavan merkinnän päävelvoitteen asiaankuuluvien tekoälyjärjestelmien tarjoajiin. Tietyissä tilanteissa velvoitteita on myös järjestelmien käyttöönottajilla. Säännöksen ydin on, että synteettinen sisältö on merkittävä ja sen tekoälyperäisyys tai muokkaus on voitava havaita; se ei määrää yhtä yleistä teknologiaa.

EU:n saatavilla oleva ohjeistus ei myöskään muodosta yleistä, erillistä kieltoa, joka estäisi kaikkia kolmansia osapuolia poistamasta sisältöön liitettyä merkintää kaikissa tilanteissa. Ohjeistuksessa huomioidaan tavanomainen editointi, joka ei olennaisesti muuta lähtötietoja tai niiden merkitystä, ja samalla määritellään koneluettavan merkitsemisen kehys.

Tämä ei silti tarkoita, että merkinnän poistaminen olisi aina vailla oikeudellisia seurauksia. Sopimukset, alustojen käyttöehdot, tekijänoikeus, petoksia ja harhaanjohtamista koskevat säännöt, työpaikan tai oppilaitoksen käytännöt sekä alakohtaiset ilmoitusvelvollisuudet voivat vaikuttaa arvioon. Varovaisin johtopäätös on rajatumpi: 50 artiklan tarjoajille asettamaa merkintävelvollisuutta ei pidä sekoittaa takeeseen teknisesti pysyvästä vesileimasta tai yleispätevään sääntöön, joka ratkaisisi kaiken sisällön myöhemmän käytön.

Johtopäätös

Claude-vesileima voi tehdä tekoälyn osallistumisesta helpommin havaittavaa joissakin tilanteissa – etenkin silloin, kun merkitty teksti kopioidaan tai sitä muokataan vain kevyesti ja tiedoston alkuperätiedot säilyvät. Se ei kuitenkaan muodosta ratkaisevaa näyttöä tekijyydestä, henkilöllisyydestä, omistajuudesta tai vastuusta.

Poistotyökalujen ympärille syntynyt kilpajuoksu korostaa samaa eroa. GitHub-projekti voi kerätä tuhansia tähtiä ennen kuin kukaan pystyy riippumattomasti testaamaan sen väitteet, varsinkin jos taustalla oleva tunnistin on yksityinen. Julkaisijoille, opettajille, yrityksille ja alustoille olennaista ei siksi ole vain kysyä, löytyykö vesileima. On selvitettävä, millaista muuta näyttöä on saatavilla, kuinka paljon sisältöä on muokattu, mitkä alkuperätiedot ovat säilyneet ja mitä kyseiseen käyttötapaukseen sovellettavia ilmoitussääntöjä on olemassa.