Brittiläinen Kolumbia (B.C.) liittää OpenAI:n Tumbler Ridgen kouluampumiseen väitetyllä laiminlyönnillä: provinssin mukaan OpenAI oli saanut varoitusmerkkejä ampujan ChatGPT-käytöstä, sulki tähän yhdistetyn tilin, mutta ei ilmoittanut asiasta Kanadan ratsupoliisille RCMP:lle. Kanne nostettiin San Franciscossa liittovaltion tuomioistuimessa 21. syyskuuta, ja siinä vastaajina ovat OpenAI sekä yhtiön toimitusjohtaja Sam Altman. Asia on kesken, joten provinssin väitteet eivät ole tuomioistuimen toteamin faktoja.
17
19
Mitä Tumbler Ridgessä tapahtui?
Raporttien mukaan 18-vuotias Jesse Van Rootselaar tappoi 10. helmikuuta Tumbler Ridgessä Brittiläisessä Kolumbiassa kahdeksan ihmistä – kuusi lasta ja kaksi aikuista – ennen kuin kuoli itse aiheuttamaansa ampumavammaan.
22
Provinssin mukaan tapauksen yhteys OpenAI:n palveluun perustuu siihen, että ampuja väitetysti käytti ChatGPT:tä ennen väkivallantekoa. Kanteessa ei siis vain väitetä, että ChatGPT olisi ollut tapahtumien taustalla, vaan että OpenAI:lla olisi ollut niin vakavia tietoja, että pelkkä tilin sulkeminen ei ollut riittävä toimi.
17
22
Kanteen keskeinen väite: poliisille olisi pitänyt ilmoittaa
B.C. syyttää OpenAI:ta huolimattomuudesta vaaralliseksi väitetyn tuotteen suunnittelussa ja levittämisessä sekä siitä, ettei se ilmoittanut viranomaisille ChatGPT:n kautta esitetyistä uhkista ennen ampumista. Provinssin mukaan varoitus olisi voinut tavoittaa paikallisen poliisin ja estää hyökkäyksen.
Provinssi hakee korvauksia jo syntyneistä ja tulevista julkisista toipumis- ja jälleenrakennuskuluista. Lisäksi se vaatii tuomioistuimelta määräystä, joka pakottaisi OpenAI:n muuttamaan tapaa, jolla se tunnistaa väkivaltaan mahdollisesti johtavia ChatGPT-keskusteluja ja reagoi niihin.
17
25
Oikeusjutun ydinkysymys on kuitenkin myös vastatodellisuus: mitä poliisi olisi tiennyt, mitä se olisi voinut tehdä ja olisiko puuttuminen todella estänyt teon. Nämä seikat on vielä näytettävä toteen oikeudessa; niitä ei voida päätellä pelkästään siitä, että tili merkittiin ja suljettiin.
Kiistanalainen tilin tarkastus kesäkuussa 2025
OpenAI on myöntänyt tunnistaneensa Van Rootselaarin käyttöön yhdistetyn tilin kesäkuussa 2025 väärinkäytösten havaitsemiseen ja toimeenpanoon tarkoitetuilla järjestelmillään. Näihin järjestelmiin kuuluu myös väkivaltaisen toiminnan edistämiseen käytettyjen mallien käytön tunnistaminen. Yhtiö sulki tilin.
33
OpenAI:n mukaan se ei ilmoittanut tilistä viranomaisille, koska tuolloin saatavilla olleet tiedot eivät osoittaneet uskottavaa ja välitöntä vakavan fyysisen vahingon uhkaa. Tämä oli yhtiön mukaan sen kynnys viranomaisilmoitukselle.
33
43
B.C. kiistää, että vastaus olisi ollut riittävä. Provinssin näkemyksen mukaan sisäinen tarkastus ja tilin sulkeminen olivat varoitusmerkkejä, joiden perusteella OpenAI:n olisi pitänyt ottaa yhteys RCMP:hen. OpenAI on sittemmin sanonut, että kesäkuun 2025 jälkeen käyttöön otettujen turvallisuuskäytäntöjen perusteella se ilmoittaisi vastaavasta tilistä nykyisin poliisille.
39
44
Miksi keskusteluhistoria on ratkaiseva?
Koko ChatGPT-keskusteluhistoria ei ole julkisesti saatavilla. B.C.:n oikeusministeri Niki Sharma on sanonut, että OpenAI kieltäytyi luovuttamasta ampujan keskusteluhistoriaa provinssille. Siksi ulkopuolisten on vaikea arvioida viestien täsmällistä sisältöä, OpenAI:n sisäistä päätöksentekoa ja sitä, olisiko poliisi-ilmoitus voinut käytännössä johtaa tehokkaaseen puuttumiseen.
37
Tämä puuttuva tieto on myös syy siihen, että tapauksesta on syytä puhua varovasti. Oikeusjutussa käsitellään väitettyjä puutteita palvelun suunnittelussa, uhkien havaitsemisessa, niiden eskaloinnissa ja vahinkojen ehkäisyssä – ei vielä oikeudellisesti todistettuja johtopäätöksiä siitä, mitä chatbot tarkalleen sanoi tai aiheutti.
Muut kanteet ja kysymys kiellon kiertämisestä
Uhrien omaiset, selviytyneet, oppilaat ja koulun työntekijät ovat nostaneet Kaliforniassa samankaltaisia kanteita. OpenAI on pyytänyt yli kolmen tusinan jutun hylkäämistä ja vedonnut muun muassa siihen, että Brittiläisessä Kolumbiassa tapahtuneita kuolemia ja loukkaantumisia koskevat vaatimukset pitäisi käsitellä siellä eikä Kaliforniassa.
26
28
Erillisissä vaatimuksissa nostetaan esiin myös se, riittääkö tilin sulkeminen turvallisuustoimeksi. OpenAI on kertonut, että ampuja loi kesäkuun 2025 sulkemisen jälkeen toisen tilin ja että yhtiö sai tiedon tästä vasta ampumisen jälkeen. Yhtiö on sanonut vaikeuttavansa sitä, että suljetut käyttäjät pääsevät palaamaan palveluun.
36
45
OpenAI:n ja Altmanin kanta
OpenAI on ilmaissut surunsa tapahtuneesta, kertonut nollatoleranssista työkalujensa väkivallan edistämiseen käytölle ja ilmoittanut vahvistaneensa suojatoimiaan. Myöhemmästä oikeusprosessista kertoneissa uutisissa kuvattiin myös Altmanin esittämä anteeksipyyntö.
38
39
Yhtiön keskeinen kanta on silti rajatumpi: kesäkuussa 2025 tehty tilin sulkeminen oli sen mukaan asianmukainen toimenpide silloin käytettävissä olleiden tietojen perusteella, eikä käyttö ylittänyt tuolloista kynnystä, jonka mukaan viranomaisille ilmoitetaan välittömästä ja uskottavasta uhasta.
33
43
Mitä Brittiläinen Kolumbia vaatii?
B.C. hakee korvauksia hätätilanteen hoidosta ja yhteisön toipumisesta aiheutuneisiin menoihin, mukaan lukien koulun korvaamiseen liittyvät kustannukset. Samalla se vaatii muutoksia OpenAI:n käytäntöihin mahdollisesti väkivaltaisen ChatGPT-käytön käsittelyssä.
17
23
Kanne nostaa esiin laajemman kysymyksen tekoälyyhtiöille: kun palvelu tunnistaa väkivaltaista toimintaa mutta ei pysty varmuudella päättelemään hyökkäyksen olevan välitön, mikä mahdollinen velvollisuus sillä on ilmoittaa asiasta viranomaisille? Tuomioistuin ei ole vielä vastannut tähän kysymykseen tässä asiassa.