Microsoftin tekoälyjohtaja tylyttää Anthropicia: Vihjailu Clauden tietoisuudesta on ”todella, todella vaarallista”

Suleyman leimasi tämän käytännön ”todella, todella vaaralliseksi” ja varoitti: ”Me emme halua joutua painimaan superälyn kanssa, jolla on ajatuksia omasta kärsimyksestään tai omista tunteistaan.” . Hän laajensi huoltaan toisaalla toteamalla, että on vaarallista ”projisoida mahdollisia oikeuksia olennoille, työkaluille ja agenteille, jotka voivat olla monin tavoin meitä huomattavasti kyvykkäämpiä” . Yksi suurimmista huolenaiheista on se, että koneen tietoisuuden viihdyttäminen virallisessa dokumentaatiossa johtaa harhaan miljoonia käyttäjiä, joilla ei ole välineitä ymmärtää keskustelevan tekoälyn taustalla olevaa insinööritodellisuutta .

Filosofinen ja kilpailullinen yhteentörmäys

Kritiikin taustalla on muutakin kuin yksinkertainen erimielisyys teknisestä suunnittelusta. Julkinen kiista paljastaa yritysfilosofioiden ja kilpailuasemoinnin törmäyksen .

Anthropic on pitkään markkinoinut itseään turvallisuus edellä -vaihtoehtona tekoälykilvassa. Entisten OpenAI-johtajien perustama yhtiö korostaa ”perustuslaillista tekoälyä” viitekehyksenä, jolla rakennetaan läpinäkyvämpiä ja eettisesti sidonnaisempia malleja. Suleymanin kritiikki on strategisesti painavaa, koska se horjuttaa koko tämän identiteetin perustaa. Hänen mukaansa Anthropicin erityinen lähestymistapa turvallisuuteen – se, että järjestelmän sisällä viihdytetään ajatusta koneen hyvinvoinnista – on juuri se, mikä tekee siitä vastuutonta .

Yhtiöt kuuluvat myös vastakkaisiin teollisuusliittoutumiin. Microsoftilla on valtava omistusosuus OpenAI:ssa, Anthropicin pääkilpailijassa, ja se on punonut OpenAI:n GPT-mallit läpi koko tuote-ekosysteeminsä. Anthropic puolestaan on kerännyt miljardeja Amazonilta ja Googlelta . Suleymanin kritiikissä yhdistyvätkin eettinen argumentti ja kilpailullinen avaus markkinoilla, joilla yleisön käsitys turvallisuudesta on yhä tärkeämpää.

Erimielisyyden taustalla on myös dokumentoitu filosofinen historia. Suleyman on aiemmin julkaissut ja puhunut aiheesta ”Näennäisesti tietoinen tekoäly” (Seemingly Conscious AI), argumentoiden, että koneet, jotka antavat vakuuttavan vaikutelman tietoisuudesta, aiheuttavat ennennäkemättömiä riskejä – vaikka ne eivät olisikaan oikeasti eläviä . Anthropic on toisaalta ottanut tutkimusviestinnässään avoimemman linjan, julkaisten yksityiskohtaisia selityksiä Clauden perustuslaillisesta suunnittelusta ja myöntäen samalla epävarmuuden siitä, voisiko mallilla olla subjektiivisen kokemuksen muotoja . Nämä eivät ole vain markkinointilauseita; ne edustavat aidosti erilaisia näkemyksiä siitä, mitä vastuullinen läpinäkyvyys on, kun malleista tulee entistä voimakkaampia.

Tätä kirjoitettaessa Anthropic ei ole vastannut julkisesti Suleymanin kommentteihin . Hiljaisuus jättää kiistan avoimeksi, mutta rajat on nyt vedetty julkisesti tavalla, joka todennäköisesti tulee muovaamaan tulevia alan keskusteluja tekoälyn turvallisuusstandardeista ja yritysvastuusta.