Британская Колумбия связывает иск против OpenAI со стрельбой в школе города Тамблер-Ридж через предполагаемую упущенную возможность вмешательства. По версии провинции, компания получила тревожные сигналы из активности стрелявшей в ChatGPT, заблокировала аккаунт, но не уведомила Королевскую канадскую конную полицию (RCMP). Иск был подан 21 сентября в федеральный суд Сан-Франциско; ответчиками названы OpenAI и её гендиректор Сэм Альтман. Дело ещё не рассмотрено по существу, поэтому утверждения властей не являются установленными судом фактами.
17
19
Что произошло в Тамблер-Ридж
10 февраля 18-летняя Джесси Ван Рутселар убила восьмерых человек — шестерых детей и двух взрослых — в Тамблер-Ридж, в канадской провинции Британская Колумбия, после чего погибла от нанесённого себе огнестрельного ранения, сообщали СМИ со ссылкой на материалы дела и полицию.
22
Власти провинции считают, что к этому имеет отношение дизайн продукта и практика OpenAI по сообщениям об угрозах: по их утверждению, стрелявшая пользовалась ChatGPT до нападения. Суть претензии не сводится к тому, что чат-бот просто фигурировал в истории. Провинция заявляет, что у OpenAI была информация, требовавшая не только закрыть аккаунт, но и предпринять дальнейшие действия.
17
22
В чём главная претензия провинции
Британская Колумбия обвиняет OpenAI в небрежной разработке и распространении небезопасного продукта, а также в том, что компания не сообщила правоохранительным органам об угрозах, высказанных через ChatGPT до стрельбы. По мнению властей, предупреждение могло бы дойти до местной полиции и предотвратить нападение.
Провинция требует компенсацию уже понесённых и будущих расходов на ликвидацию последствий трагедии и восстановление сообщества. Кроме того, она просит суд обязать OpenAI изменить порядок выявления и обработки диалогов ChatGPT, которые могут привести к насилию.
17
25
Именно эта предполагаемая причинная цепочка станет ключевой в процессе: что именно знала бы полиция, какие меры могла бы принять и предотвратило ли бы это нападение. Всё это предстоит доказывать документами, показаниями и юридическими аргументами; одного факта блокировки аккаунта недостаточно для вывода о последствиях.
Спор вокруг проверки аккаунта в июне 2025 года
OpenAI признала, что в июне 2025 года её системы выявления нарушений и контроля за использованием сервиса обнаружили аккаунт, связанный с Ван Рутселар. Эти системы, в частности, должны выявлять использование моделей для содействия насилию. Компания заблокировала аккаунт.
33
Однако в OpenAI заявили, что не сообщили о нём властям, поскольку имевшаяся тогда информация не указывала на достоверный и неминуемый план причинения тяжкого физического вреда. Именно такой порог компания применяла для передачи сведений правоохранительным органам.
33
43
Иск Британской Колумбии оспаривает достаточность такой реакции. Позиция провинции состоит в том, что внутренняя проверка и блокировка уже были настолько серьёзными сигналами, что OpenAI следовало обратиться в RCMP. Позднее компания сообщила: согласно протоколам безопасности, введённым после июня 2025 года, о таком аккаунте она уже уведомила бы полицию.
39
44
Почему важна история переписки
Полная история диалогов в ChatGPT не опубликована. Генеральный прокурор Британской Колумбии Ники Шарма заявила, что OpenAI отказалась предоставить провинции историю чатов стрелявшей. Это не позволяет общественности самостоятельно оценить конкретность переписки, внутреннее решение компании и то, насколько реальным было бы вмешательство при уведомлении полиции.
37
Поэтому описывать спор следует осторожно: предмет иска — предполагаемые недостатки в проектировании продукта, выявлении рисков, эскалации тревожных сигналов и предотвращении вреда. Это не установленный факт о точном содержании ответов чат-бота или о том, что именно они стали причиной нападения.
Другие иски и вопрос обхода блокировки
Семьи погибших, пострадавшие, ученики и педагоги также подали связанные иски в Калифорнии. OpenAI добивается прекращения более чем трёх десятков дел, в том числе указывая, что претензии в связи со смертями и травмами в Британской Колумбии должны рассматриваться там, а не в Калифорнии.
26
28
Отдельный вопрос — насколько сама по себе блокировка аккаунта является эффективной мерой безопасности. OpenAI сообщала, что после приостановки аккаунта в июне 2025 года стрелявшая создала второй аккаунт; до нападения компания о нём не знала. Также OpenAI заявила, что усложняет возвращение в сервис для заблокированных пользователей.
36
45
Что говорят OpenAI и Альтман
OpenAI выразила соболезнования в связи с нападением, заявила о нулевой терпимости к использованию её инструментов для содействия насилию и сообщила об усилении защитных механизмов. В публикациях о последующих судебных разбирательствах также упоминались извинения Альтмана.
38
39
При этом основная позиция компании уже: блокировка аккаунта в июне 2025 года была обоснована исходя из информации, которой она тогда располагала, а активность пользователя не достигала действовавшего на тот момент порога для сообщения о достоверной и неминуемой угрозе правоохранительным органам.
33
43
Чего добивается провинция
Британская Колумбия требует возместить расходы, связанные с экстренным реагированием и восстановлением сообщества, в том числе затраты на замену школы. Одновременно она добивается изменения практик OpenAI по реагированию на потенциально насильственное использование ChatGPT.
17
23
Таким образом, иск ставит более широкий вопрос для компаний, развивающих ИИ: если платформа фиксирует признаки возможного насилия, но не уверена, что нападение неизбежно, обязана ли она сообщать об этом полиции? В этом деле суд пока не дал ответа.