Zuckerberg haluaa tekoäly-yhtiöiden päättävän tauoista itse

Mark Zuckerberg ei sano, ettei tekoälyn kehitystä pitäisi koskaan hidastaa. Hän vastustaa sitä, että kilpailevat yhtiöt sopisivat hidastamisesta yhdessä. NBC Newsin Joanna Sternin haastattelussa Metan toimitusjohtaja sanoi, että johtavat tekoäly-yhtiöt voivat itse keskeyttää tai lykätä tuotteidensa kehitystä, jos ne pitävät niitä turvattomina. 10

Miksi päätös kuuluisi Zuckerbergin mielestä kullekin yhtiölle?

Zuckerbergin mukaan jokaisella tekoälylaboratoriolla on vastuu ja mahdollisuus edetä vain niin nopeasti kuin turvallinen mallien kouluttaminen sallii. Hän uskoo myös, että kilpailu kannustaa turvallisuuteen: ihmiset eivät halua käyttää tekoälyagentteja, jotka eivät toimi heidän tarkoitustensa mukaisesti. Lisäksi yhtiöille voi koitua oikeudellista vastuuta järjestelmiensä aiheuttamista vahingoista. 172934

Hänen kantansa ei siis ole, että jokainen tuote pitäisi julkaista suunnitellusti. Se on väite siitä, että yhtiökohtaiset päätökset riittävät ilman koko alan sopimusta. Auki jää, huomaavatko yhtiöt ongelmat ja reagoivatko ne niihin ennen kuin käyttäjille aiheutuu vahinkoa. Pelkät kaupalliset kannustimet eivät takaa sitä.

Muse on Metan esimerkki omasta jarrutuksesta

Zuckerberg viittasi Metan päätökseen lykätä Muse-tekoälyagentin julkaisua kuukausilla turvallisuuden ja tietoturvan vahvistamiseksi. Hänen mukaansa Meta pystyi tekemään päätöksen odottamatta, että kilpailijat toimisivat samoin. 1727

Meta on myös kuvannut Musesta erillisen Sentinel-agentin, joka valvoo Musen verkkoon lähettämiä toimia ja tietoja sekä pyytää käyttäjältä luvan tarvittaessa. Kuvaus kertoo, millaisia suojauksia Meta sanoo rakentaneensa; se ei yksin osoita, että riskit olisi poistettu. 30

Erimielisyys koskee sitä, kuka määrää tahdin

Anthropicin toimitusjohtaja Dario Amodei on vaatinut hitaampaa etenemistä kehittyneimpien tekoälymallien kehityksessä. OpenAI:n toimitusjohtaja Sam Altman ja Elon Musk ovat tukeneet hidastamista. Amodei ja Altman puhuivat 23. syyskuuta YK:n turvallisuusneuvostolle ja vaativat kansainvälistä yhteistyötä tekoälyriskien hallitsemiseksi. 146

Zuckerberg luottaa siihen, että kukin yhtiö tekee tarvittaessa oman turvallisuuspäätöksensä kilpailun ja vastuuriskien kannustamana. Amodei ja Altman taas painottavat yhteistyötä yhtiöiden ja maiden välillä. 10174

Keskustelu ei silti jakaudu yksinkertaisesti turvallisuudesta huolestuneisiin ja siitä piittaamattomiin. Anthropicilta lähtenyt tutkija Jacob Coxon varoitti vakavista tekoälyriskeistä mutta ehdotti samalla, että johtavat laboratoriot sääntelisivät aluksi itse toimintaansa, kun Yhdysvaltain kongressi valmistelee pidemmän aikavälin sääntöjä kehityksen hidastamiseksi. 4237