British Columbia verbindet seine Klage gegen OpenAI mit einem nach Ansicht der Provinz versäumten Eingreifen: OpenAI soll Warnsignale in der ChatGPT-Nutzung der späteren Schützin erkannt und ein Konto gesperrt haben, ohne die Royal Canadian Mounted Police (RCMP), die kanadische Bundespolizei, zu benachrichtigen. Die am 21. September bei einem Bundesgericht in San Francisco eingereichte Klage richtet sich gegen OpenAI und dessen CEO Sam Altman. Das Verfahren ist nicht abgeschlossen; die Vorwürfe der Provinz sind daher keine gerichtlich festgestellten Tatsachen.
17
19
Was in Tumbler Ridge geschah
Am 10. Februar tötete die 18-jährige Jesse Van Rootselaar in Tumbler Ridge in der kanadischen Provinz British Columbia acht Menschen – sechs Kinder und zwei Erwachsene – und starb anschließend durch einen selbst zugefügten Schuss, wie aus Berichten über die Klage hervorgeht.
22
Die Provinzregierung sieht einen Zusammenhang zur Produktgestaltung und zu den Meldeverfahren von OpenAI, weil die Schützin ChatGPT vor der Tat genutzt haben soll. Ihr Vorwurf lautet nicht allein, dass ChatGPT dabei eine Rolle im Hintergrund gespielt habe. Entscheidend sei vielmehr, dass OpenAI über Informationen verfügt habe, die nach Auffassung der Provinz mehr als eine Kontosperre erfordert hätten.
17
22
Der Kernvorwurf von British Columbia
British Columbia wirft OpenAI vor, ein unsicheres Produkt fahrlässig entwickelt und verbreitet zu haben. Zudem habe das Unternehmen die Polizei nicht über Bedrohungen informiert, die vor dem Angriff über ChatGPT geäußert worden sein sollen. Nach Auffassung der Provinz hätte eine Warnung die örtlichen Polizeibehörden erreichen und die Tat verhindern können. Gefordert werden Entschädigungen für bereits entstandene und künftige öffentliche Kosten der Bewältigung sowie eine gerichtliche Anordnung, die OpenAI zu Änderungen bei der Erkennung und Behandlung potenziell gewaltbezogener ChatGPT-Gespräche verpflichtet.
17
25
Genau diese hypothetische Kette ist zentral für das Verfahren: Was hätten die Behörden bei einer Warnung wissen können, welche Maßnahmen wären möglich gewesen und hätte dies den Angriff verhindert? Das muss im Prozess anhand von Beweisen und rechtlichen Argumenten geklärt werden – es folgt nicht allein daraus, dass ein Konto markiert wurde.
Das umstrittene Prüfverfahren im Juni 2025
OpenAI hat bestätigt, im Juni 2025 ein Van Rootselaar zugeordnetes Konto durch Systeme zur Erkennung und Durchsetzung gegen Missbrauch identifiziert zu haben. Zu diesen Maßnahmen gehört auch die Suche nach Nutzungen von Modellen zur Vorbereitung von Gewalt. Das Unternehmen sperrte das Konto.
33
Die Behörden seien damals nicht informiert worden, weil die vorliegenden Informationen nach Darstellung von OpenAI keinen glaubwürdigen und unmittelbar bevorstehenden Plan für schwere körperliche Gewalt erkennen ließen. Dies sei die damals geltende Schwelle für eine Meldung an Strafverfolgungsbehörden gewesen.
33
43
Die Klage von British Columbia hält diese Reaktion für unzureichend. Nach Ansicht der Provinz hätte eine interne Prüfung und Kontosperre Anlass sein müssen, die RCMP zu verständigen. OpenAI erklärte später, nach Sicherheitsprotokollen, die nach Juni 2025 eingeführt worden seien, würde das Unternehmen die Polizei in einem solchen Fall benachrichtigen.
39
44
Warum die Chatverläufe entscheidend sind
Die vollständigen ChatGPT-Unterhaltungen sind öffentlich nicht bekannt. Generalstaatsanwältin Niki Sharma erklärte, OpenAI habe sich geweigert, der Provinz die Chatverläufe der Schützin zu übergeben. Damit kann die Öffentlichkeit weder die konkrete Ausgestaltung der Gespräche noch die interne Entscheidung von OpenAI oder die realistische Chance eines Eingreifens bei einer Polizeimeldung unabhängig beurteilen.
37
Dieser Mangel an öffentlich zugänglichen Details ist auch der Grund, weshalb die Angelegenheit präzise beschrieben werden sollte: Im Verfahren geht es um mutmaßliche Versäumnisse bei Entwicklung, Erkennung, Eskalation und Prävention – nicht um bereits bewiesene Aussagen dazu, was der Chatbot exakt geantwortet oder verursacht hat.
Weitere Klagen und die Frage nach umgangenen Sperren
Angehörige von Opfern, Überlebende, Schüler und Lehrkräfte haben in Kalifornien verbundene Klagen angestrengt. OpenAI beantragt die Abweisung von mehr als drei Dutzend Verfahren und argumentiert unter anderem, Ansprüche wegen Todesfällen und Verletzungen in British Columbia müssten dort statt in Kalifornien verhandelt werden.
26
28
Weitere Vorwürfe betreffen die Wirksamkeit einer bloßen Kontosperre. OpenAI erklärte, die Schützin habe nach der Sperrung im Juni 2025 ein zweites Konto angelegt; dem Unternehmen sei dieses erst nach dem Angriff bekannt geworden. OpenAI teilte mit, es erschwere gesperrten Nutzern die Rückkehr zum Dienst.
36
45
Was OpenAI und Altman sagen
OpenAI äußerte Bedauern über den Angriff, verweist auf eine Nulltoleranzpolitik gegen die Nutzung seiner Werkzeuge zur Vorbereitung von Gewalt und erklärte, Schutzmaßnahmen verstärkt zu haben. In Berichten über die späteren Klagen wurde auch eine Entschuldigung von Altman erwähnt.
38
39
Die zentrale rechtliche und tatsächliche Position des Unternehmens ist enger gefasst: Die Sperrung des Kontos im Juni 2025 sei auf Grundlage der damals verfügbaren Informationen angemessen gewesen. Die Nutzung habe die damals gültige Schwelle für die Meldung einer unmittelbar bevorstehenden und glaubwürdigen Bedrohung an Strafverfolger nicht erreicht.
33
43
Was die Provinz fordert
British Columbia verlangt Schadenersatz für Kosten des Notfalleinsatzes und der Erholung der Gemeinde, darunter Ausgaben für den Ersatz der Schule. Außerdem fordert die Provinz Änderungen an OpenAIs Umgang mit potenziell gewalttätiger Nutzung von ChatGPT.
17
23
Damit stellt die Klage eine weitergehende Frage für KI-Unternehmen: Welche Pflicht besteht – falls überhaupt –, Strafverfolgungsbehörden zu informieren, wenn eine Plattform gewaltbezogene Aktivitäten erkennt, aber nicht sicher feststellen kann, dass ein Angriff unmittelbar bevorsteht? In diesem Fall hat das Gericht diese Frage bislang nicht beantwortet.