OpenAI, Anthropic ja Google DeepMind keskustelevat tekoälyturvallisuudesta

OpenAI:n, Anthropicin ja Google DeepMindin raportoidut keskustelut nostavat esiin yhden tekoälyalan vaikeimmista kysymyksistä: miten suorat kilpailijat voivat tehdä yhteistyötä turvallisuuden parantamiseksi ilman, että yhteistyö samalla vääristää kilpailua?

Reutersin siteeraaman Bloomberg Newsin raportin mukaan yhtiöt keskustelivat työstä, jolla tekoälyturvallisuutta asetettaisiin etusijalle. Reuters korosti, ettei se pystynyt vahvistamaan Bloombergin tietoja itsenäisesti. OpenAI, Alphabet ja Anthropic eivät myöskään vastanneet heti Reutersin kommenttipyyntöihin. 4

Mistä yhteistyössä olisi kyse?

Raportin mukaan OpenAI, Anthropic ja Alphabetin Google DeepMind selvittivät mahdollisuuksia tehdä yhteistyötä tekoälyturvallisuudessa. OpenAI:n globaali politiikkajohtaja Chris Lehane sanoi yhtiöiden keskustelleen asiasta jo useiden viikkojen ajan. Hänen mukaansa yhtiöiden olisi parempi pyrkiä yhdessä asettamaan turvallisuus etusijalle. 4

Julkisuuteen tulleissa tiedoissa ei kuitenkaan kerrottu valmiista sopimuksesta, yhteisestä tarkasti määritellystä standardista tai sitovasta turvallisuusohjelmasta. Toistaiseksi kyse on siis raportoiduista neuvotteluista, ei vahvistetusta virallisesta yhtiöiden välisestä järjestelystä. 4

Miksi katastrofiriskeistä puhutaan nyt enemmän?

Keskustelut käynnistyivät tilanteessa, jossa suurten yhdysvaltalaisten tekoälylaboratorioiden johtajat ovat julkisesti vedonneet tekoälyn kehityksen keskeyttämisen puolesta. Tämä on nostanut esiin huolia yhä kyvykkäämpien järjestelmien mahdollisista eksistentiaalisista riskeistä. 4

Sama huoli näkyy Yhdysvaltain poliittisessa keskustelussa. Reutersin mukaan yhä useampi lainsäätäjä hakee uusia tekoälysääntöjä sen jälkeen, kun Anthropicin tutkijat varoittivat nopeasti etenevän tekoälyn mahdollisesti aiheuttamasta ihmiskunnan sukupuuttoon liittyvästä riskistä. 3

Anthropic on erikseen kehottanut suuria tekoälylaboratorioita harkitsemaan koordinoitua ja todennettavaa kehitystaukoa, jos riskit kasvavat. Yhtiön mukaan tekoälyjärjestelmät saattavat joskus pystyä parantamaan itseään nopeammin kuin yhteiskunta ehtii hallita seurauksia. 15

Kyse on mahdollisista tulevista kyvykkyyksistä ja riskeistä, ei yksimielisyydestä siitä, että tällainen kehitys olisi väistämätöntä. Huoli auttaa silti selittämään, miksi yhtiöiden vapaaehtoisista suojatoimista, yhteisistä standardeista ja valvottavasta sääntelystä keskustellaan samanaikaisesti.

Kilpailuoikeus on yhteistyön hankalin kysymys

Kilpailijoiden välinen yhteistyö voi herättää kilpailuviranomaisten kiinnostuksen etenkin silloin, kun se vaikuttaa markkinakilpailuun. OpenAI, Anthropic ja Google DeepMind kilpailevat samalla kiivaasti kehittyneiden tekoälymallien rakentamisesta ja käyttöönotosta.

Lehanen mukaan kolmikko ei tarvitsisi kilpailuoikeudellista poikkeuslupaa turvallisuusyhteistyöhön. 4 Näkemys on kiistanalainen. Yhdysvaltain kauppakomission FTC:n puheenjohtaja Andrew Ferguson sanoi, että tekoälyyhtiöiden kilpailuoikeudellisia poikkeuksia koskeviin pyyntöihin pitäisi suhtautua ”erittäin epäluuloisesti”. Reutersin haastattelemien asiantuntijoiden mukaan nykyinen kilpailulainsäädäntö voi kuitenkin jo sallia yhteistyön, jonka tarkoituksena on estää katastrofaalisia riskejä. 2

Rajanveto on olennainen: yhteiset turvallisuustestit tai riskienhallinnan käytännöt voidaan nähdä haittoja ehkäisevinä toimina. Sen sijaan kilpailua rajoittava sopimus kehityksen hidastamisesta herättäisi huomattavasti vaikeampia oikeudellisia ja poliittisia kysymyksiä.

Sääntelypaine kasvaa Washingtonissa

Lehane sanoi myös OpenAI:n tukevan puoluerajat ylittävää yhdysvaltalaista lainsäädäntöä, jonka tavoitteena on pienentää tekoälyn katastrofiriskejä. 4

Yhdysvaltain senaatissa on samaan aikaan neuvoteltu mahdollisesta niin sanotusta huolellisuusvelvoitteesta. Se voisi velvoittaa tekoälykehittäjät osoittamaan, että ne ovat ryhtyneet kohtuullisiin varotoimiin haittojen ehkäisemiseksi. Kauppaministeriölle voitaisiin antaa valta pyytää tästä näyttöä ja lähettää tarkastajia testaamaan tuotteita. 8

OpenAI on lisäksi vaatinut pakollisia kansallisia tekoälyturvallisuusvaatimuksia Yhdysvaltoihin ja esittänyt, että standardien pitäisi ulottua maan rajojen ulkopuolellekin. 6

Mitä kannattaa seurata seuraavaksi?

Ratkaisevaa on, muuttuvatko raportoidut keskustelut julkiseksi ja muodolliseksi sitoumukseksi, jossa on selkeät suojatoimet, riippumaton arviointi ja vastuunjako. Tämänhetkisten tietojen perusteella varovainen johtopäätös on suppeampi: OpenAI, Anthropic ja Google DeepMind ovat tiettävästi keskustelleet turvallisuudesta samaan aikaan, kun huolet kehittyneen tekoälyn riskeistä ja paine yhteisille standardeille sekä liittovaltiotason säännöille kasvavat. 4

Mahdollista tulevaa yhteistyötä arvioidaan todennäköisesti kahdella mittarilla yhtä aikaa: synnyttääkö se aidosti merkittäviä turvallisuussuojia, ja tehdäänkö se tavalla, joka ei muutu kilpailijoiden keinoksi rajoittaa keskinäistä kilpailua turvallisuuden nimissä?