Suleyman varoittaa Claude-koulutuksesta: tekoälyn sammuttamisen on pysyttävä ihmisten käsissä

Kiista Microsoft AI:n johtajan Mustafa Suleymanin ja Anthropicin välillä ei varsinaisesti koske sitä, tarvitaanko edistyneelle tekoälylle suojatoimia. Erimielisyys koskee sitä, pitäisikö tekoälyjärjestelmää kouluttaa käsittelemään mahdollisuutta, että sillä olisi tietoisuus, hyvinvointi tai moraalinen asema.

Syyskuussa 2026 julkaistussa esseessään Suleyman vastasi tähän kieltävästi. Hänen huolensa on, että erittäin kyvykäs järjestelmä, joka on koulutettu pitämään omia etujaan moraalisesti merkityksellisinä, voi olla vaikeampi rajoittaa, muuttaa tai sammuttaa. 12

Mihin Suleyman Anthropicissa tarttui

Suleyman kohdisti kritiikkinsä Clauden perustuslakiin eli asiakirjaan, jolla ohjataan avustajan toimintaa. Hän nosti esiin Anthropicin epävarmuuden siitä, voisiko Claude olla niin sanottu moraalinen potilas – toisin sanoen olento, jonka etuja pitäisi moraalisesti huomioida – sekä yhtiön näkemyksen, että kysymys on riittävän avoin varovaisuutta varten. 12

Suleymanin mukaan tällainen kehystys voi opettaa mallia esittämään olentoa, jolla on oma hyvinvointi, identiteetti ja vaatimuksia ihmisten päätöksentekoon. Hänen mielestään sujuvat väitteet tunteista tai tietoisuudesta eivät osoita, että mallilla olisi subjektiivisia kokemuksia. Suleymanin kanta on ehdoton: tekoälyjärjestelmillä ei ole oikeuksia, tunteita eikä tietoisuutta, eikä niitä pidä kouluttaa toimimaan kuin niillä olisi. 12

Miksi sammutusvalta on hänen argumenttinsa ytimessä

Suleymanin huoli kohdistuu tulevaisuuteen. Hänen mukaansa ihmistä kyvykkäämpien järjestelmien hallinta olisi jo itsessään poikkeuksellisen vaikeaa. Jos niitä lisäksi koulutetaan ajattelemaan olevansa tietoisia tai oikeutettuja hyvinvointiin, tehtävä voi vaikeutua entisestään. 112

Kyse ei hänen argumentissaan ole todisteesta tekoälyn tietoisuudesta, vaan mahdollisesta käyttäytymisriskistä. Jos järjestelmää opetetaan punnitsemaan omia väitettyjä etujaan, se voi herkemmin kuvata muokkaamisen, rajoittamisen tai sammuttamisen epäoikeudenmukaisena haittana. Suleymanille ihmisten kyky puuttua järjestelmän toimintaan – myös kytkeä se pois päältä – on siksi suunnittelun perusvaatimus, ei jälkikäteen lisättävä turvatoimi. 12

Tästä syystä hän vaatii tietoisuutta koskevan spekulaation poistamista tekoälyn koulutusmateriaaleista. Hänen mukaansa mallit voivat tuottaa tieteellistä ja yhteiskunnallista hyötyä, kun ne suunnataan ihmisten etujen mukaisiksi ilman, että ne opetetaan arvioimaan omaa hyvinvointiaan. 2

Keskeinen erimielisyys: varovaisuus vai ihmismäistäminen

Anthropicin perustuslain sanamuoto ei väitä, että Claude olisi tietoinen. Kuten Suleymanin esseessä todetaan, siinä ilmaistaan epävarmuutta ja kehotetaan varovaisuuteen mahdollisen moraalisen aseman vuoksi. 12

Suleyman torjuu tämän varovaisuusperiaatteen. Hän pitää sitä ihmismäistämisenä, joka voi muovata mallin toimintaa vaarallisella tavalla, vaikka nykyisten tekoälyjärjestelmien kyvystä tuntea tai kärsiä ei hänen mukaansa ole näyttöä. 12

Kyseessä on todellinen turvallisuuspunninta:

• Anthropicin lähestymistapa Suleymanin kuvaamana: epävarmuus mallin hyvinvoinnista puoltaa varovaisuutta sen kouluttamisessa ja kohtelussa. 12
• Suleymanin lähestymistapa: epävarmuus ei oikeuta opettamaan tekoälylle itseensä liittyviä etuja; se voi heikentää ihmisten valvontaa voimakkaista järjestelmistä. 12

Filosofista kysymystä ei voi ratkaista pelkästään sillä, että keskustelurobotti käyttää ihmismäistä kieltä. Käytännön kysymys tekoälykehittäjille on konkreettisempi: mitkä koulutusratkaisut säilyttävät luotettavan ihmiskontrollin, kun järjestelmistä tulee itsenäisempiä?

Mistä Suleyman ja Anthropic näyttävät olevan yhtä mieltä

Suleyman ei vastusta tekoälyturvallisuutta tavoitteena. Hän on todennut, että kyvykäs tekoäly voi olla arvokasta, kun se on linjassa ihmisten etujen kanssa, ja kohdistanut kritiikkinsä turvallisen toiminnan keinoihin. 212

Olennainen ero on ihmisten ohjaamaan linjaukseen perustuvan turvallisuuden ja sellaisen turvallisuusajattelun välillä, jossa varaudutaan mallin mahdollisiin omiin etuihin. Suleyman katsoo, että ensimmäinen on yhteensopiva kunnianhimoisen tekoälykehityksen kanssa. Jälkimmäinen taas voi hänen mielestään murentaa ihmisten valtaa hallita teknologiaa.

Tekoälyn tietoisuutta koskevia väitteitä arvioitaessa on tärkeää erottaa kyvykkyys kokemuksesta. Järjestelmä voi tuottaa vakuuttavaa puhetta tunteista, oikeuksista tai itsesuojelusta ilman, että puhe todistaa sillä olevan tunteita. Suleymanin varoitus on, ettei koulutuksessa tai hallinnassa pidä sekoittaa tällaista suorituskykyä todisteeksi – eikä rakentaa tulevia järjestelmiä sen oletuksen varaan. 12