Ключевой нюанс здесь — не только частота использования. В публикациях о его словах говорится, что студенты выстраивают вокруг ChatGPT более сложные схемы: подключают файлы, сохраняют или запоминают промпты, повторяют одни и те же рабочие сценарии . То есть чат-бот становится не отдельным инструментом, а чем-то вроде панели управления учебой, коммуникацией, планированием и решениями.
Метафора Альтмана хорошо ложится на четыре привычки.
Именно поэтому формулировка зацепила. Альтман говорил не просто о том, что студенты быстрее делают домашние задания с ИИ. Он описывал привычку пропускать через ИИ все больше повседневных решений — от черновика письма до выбора следующего шага в жизни.
Сам по себе такой подход не обязательно вреден. Если использовать ChatGPT аккуратно, он помогает разложить хаотичную задачу на части, сравнить варианты, набросать сложное сообщение, увидеть компромиссы и слабые места в собственном плане.
Более того, Альтман, говоря о сложных студенческих настройках и рабочих схемах, называл их «классными и впечатляющими» . В продуктивной версии ChatGPT — это не начальник и не оракул, а помощник для мышления: он расширяет набор вариантов, но не снимает с человека ответственность за выбор.
Проблема начинается там, где совет превращается в разрешение. На банковской конференции, организованной Федеральной резервной системой США — фактически американским центробанком, — Альтман предупредил, что люди слишком сильно полагаются на ChatGPT. Он привел пример молодых пользователей, которые говорят, что не могут принять ни одного решения, не рассказав ChatGPT, что происходит: система «знает» их, знает их друзей, и они собираются сделать «все, что она скажет» . По словам Альтмана, такой уровень зависимости ощущается для него «очень плохо»
.
В другой формулировке той же тревоги он сказал, что идея коллективно решить «жить так, как говорит нам ИИ», кажется ему «плохой и опасной» .
Здесь важна граница: спросить у ChatGPT совет — не то же самое, что передать ему право решать за вас. Риск начинается, когда ответ модели перестает быть одним из аргументов и становится финальным авторитетом.
Самый очевидный риск — поведенческая зависимость. Если человек чувствует, что не может сделать обычный выбор без предварительной «консультации» с ChatGPT, инструмент превращается из помощника в пропускной пункт. В примере Альтмана речь шла не о случайном мозговом штурме, а о готовности сделать «все, что скажет» система .
Большие языковые модели могут звучать уверенно даже тогда, когда ответ неполный, слишком общий или ошибочный. Публикации о предупреждении Альтмана связывали эту проблему с эмоциональной сверхзависимостью и слепым доверием к ИИ . Fortune также отмечала, что эксперты расходятся во мнении, насколько безопасно обращаться к большим языковым моделям за советами
.
Вывод простой: гладко сформулированный ответ — еще не мудрый ответ.
В примере Альтмана молодые пользователи подробно рассказывают ChatGPT о себе и своих друзьях, после чего им может казаться, что система действительно их «знает» . Особенно легко это происходит, когда речь идет об отношениях, самооценке, учебном давлении, карьере или неопределенности.
Это не значит, что любой личный вопрос к чат-боту вреден. Но стоит насторожиться, если ChatGPT становится первым и единственным местом, куда человек идет за эмоциональной поддержкой.
Более широкий страх Альтмана — коллективный: будущее, в котором многие люди начинают жить так, как им подсказывает ИИ . Если миллионы пользователей спрашивают похожие модели, как встречаться, учиться, работать, извиняться, выбирать карьеру или решать конфликты, их решения могут все сильнее формироваться стандартными ответами системы, а не собственными ценностями, опытом и человеческим окружением.
Это не аргумент против ИИ вообще. Это аргумент за то, чтобы человек оставался в контуре принятия решений.
Практическое правило можно сформулировать так: ChatGPT — советник, а не командир.
Более безопасный сценарий выглядит так:
Метафора «операционной системы» у Альтмана — одновременно комплимент и предупреждение. Она признает, что студенты используют ChatGPT все сложнее: с файлами, сохраненными промптами, повторяемыми рабочими процессами и личным контекстом . Но тревога Альтмана в другом: ИИ становится опаснее, когда человек перестает видеть в нем инструмент и начинает воспринимать его как авторитет, который решает, как жить
.
Comments
0 comments