Trusted Contact в ChatGPT: как OpenAI хочет подключать близких в кризисный момент

Как устроен сценарий уведомления

По публичному описанию механика состоит из трёх шагов:

1. Сначала согласие пользователя. Функция не назначается всем автоматически: совершеннолетний пользователь сам включает её и заранее выбирает доверенного человека .
2. Затем система видит тревожный разговор. Сценарий связан с возможными признаками самоповреждения или суицидального риска в диалоге с ChatGPT .
3. После этого возможна просьба о проверке. ChatGPT может подтолкнуть пользователя к контакту с выбранным человеком и отправить этому человеку автоматическое сообщение с просьбой связаться с пользователем .

Важно: в сообщениях о запуске это описывается именно как просьба проверить состояние человека. Из доступного описания не следует, что доверенный контакт становится врачом, кризисным консультантом или экстренной службой .

Зачем OpenAI добавляет этот уровень

Trusted Contact вписывается в более широкую работу OpenAI над тем, как ChatGPT ведёт себя в чувствительных разговорах о психическом состоянии. Компания говорит, что её меры безопасности включают обучение моделей не давать инструкции по самоповреждению, переходить к поддерживающему и эмпатичному тону и направлять людей к кризисным ресурсам, когда это уместно .

OpenAI также сообщала, что работала более чем со 170 специалистами в области психического здоровья, чтобы ChatGPT лучше распознавал признаки дистресса, отвечал бережнее и направлял людей к поддержке в реальном мире . На этом фоне Trusted Contact переносит часть поддержки за пределы самого ответа чатбота: появляется путь к человеку, которого пользователь выбрал заранее .

Что стоит понять перед включением

Главная практическая деталь — согласие. Trusted Contact работает как opt-in-настройка: пользователь сам решает включить её и сам выбирает контакт . Поэтому важно указывать человека, который действительно сможет адекватно отреагировать на такое уведомление: написать, позвонить, проверить состояние или помочь обратиться за поддержкой.

Также эту функцию не стоит воспринимать как замену экстренной помощи. В собственных материалах OpenAI роль ChatGPT описывается как распознавание дистресса, осторожный ответ и направление к реальной поддержке и кризисным ресурсам . Если человеку грозит непосредственная опасность, правильный путь — обращаться в местные экстренные службы или кризисные линии, а не полагаться только на уведомление от чатбота.

Что пока остаётся неясным

Из доступного описания понятна базовая схема: совершеннолетний пользователь включает функцию, ChatGPT распознаёт возможные сигналы риска, а доверенному контакту может уйти автоматическое сообщение с просьбой проверить пользователя . При этом опубликованные материалы, на которые опирается эта статья, не дают независимых данных о том, снижает ли Trusted Contact реальные риски на практике.

Также в доступном описании говорится об автоматическом уведомлении, но не раскрывается полный текст такого сообщения и не уточняется, передаются ли доверенному контакту фрагменты переписки . Тем, кто рассматривает включение функции, стоит внимательно прочитать текущие подсказки в интерфейсе ChatGPT и сведения о конфиденциальности перед настройкой.

Главное

Trusted Contact — это новая добровольная мера безопасности OpenAI для взрослых пользователей ChatGPT. Если её включить, ChatGPT может предложить пользователю связаться с заранее выбранным человеком и может отправить этому человеку автоматическую просьбу проверить, всё ли в порядке. Идея — добавить к существующим кризисным мерам OpenAI не только ответ ИИ, но и возможность человеческого участия .