Почему не стоит говорить «искусственный интеллект» как о человеке

Чрезмерная зависимость, эмоциональная привязанность и эрозия автономии

Пользователи, которые формируют эмоциональные связи с человекоподобным ИИ, рискуют попасть в чрезмерную зависимость и столкнуться с посягательствами на конфиденциальность и автономию . Исследования показывают, что люди могут раскрывать больше личной информации очеловеченному чат-боту, чем чётко механическому интерфейсу . Динамика «антропоморфного вывода» заставляет пользователей приписывать социальные роли тем, что по сути является системами прогнозирования текста, превращая статистические результаты в кажущиеся социальными ответы, такие как советы или дружеское общение .

Искажённые моральные и правовые суждения

Антропоморфизм действует как логическая ошибка, искажающая моральные суждения об ИИ. Пользователи могут ошибочно приписывать машине моральный характер, статус или ответственность . Когда чат-бот обладает человеческими чертами, люди включают так называемую «эвристическую обработку» — мышление короткими путями, которое заставляет их относиться к инструменту как к способному на похвалу, порицание или доверие так, как простой алгоритм не может . Эта путаница подрывает осмысленный общественный диалог и подотчётность .

Риски безопасности: манипуляция как вектор атаки

С точки зрения информационной безопасности, очеловеченный ИИ представляет серьёзную киберугрозу. «Это не только этическая проблема, но и проблема безопасности, поскольку всё, что создано для убеждения, может сделать нас более восприимчивыми к манипуляции», — предупреждает анализ IBM по infosec . Когда становится трудно отличить человека от машины, люди с большей вероятностью доверяют ИИ при принятии важных решений, что делает их более уязвимыми для социальных инженеров, эксплуатирующих человеческие эвристики доверия .

Как язык «ИИ» vs. «системы ИИ» подпитывает проблему

Журнал Nature опубликовал редакционную статью на эту тему: «Мы будем любой ценой избегать использования 'ИИ' из-за его неудачного намёка на субъектность. Вместо этого мы будем либо заменять на 'система ИИ', либо чётко указывать, о чём именно идёт речь» . Использование «ИИ» как исчисляемого существительного (например, «ИИ решил», «ИИ, который думает») тонко намекает на единую, самоуправляемую сущность с внутренними ментальными состояниями. Переосмысление «ИИ» как прилагательного, изменяющего слово «система» (или «модель», «инструмент», «алгоритм»), постоянно напоминает аудитории, что речь идёт об инженерном артефакте, а не о разуме .

Эта языковая дисциплина напрямую противостоит тому, что исследователи называют «терминологическим» измерением антропоморфной шумихи: когда мы говорим «ИИ», сама форма существительного становится средством приписывания субъектности, намерения и понимания, которыми технология не обладает .

Практический вывод

Очеловечивание ИИ — не безобидная метафора. Оно ведёт к обману, излишнему доверию, манипуляциям и искажённой ответственности. Простая языковая дисциплина — использование «систем ИИ» вместо «ИИ» и отказ от ментальных глаголов вроде «думает», «знает» и «понимает» для описания того, что на самом деле является алгоритмами распознавания паттернов — служит постоянным напоминанием. Она удерживает инструментальную природу технологии на переднем плане, защищает пользователей от манипулятивного дизайна и укрепляет способность общества понимать, что эти системы могут и чего не могут делать.