Розумні, але не свідомі: нейробіологи попереджають про «пастку антропоморфізму» в AI

«Той самий принцип застосовний до AI-чатботів», — стверджують автори. Сучасні діалогові агенти обробляють мову, визначають емоційний контекст і генерують відповідні реакції за допомогою статистичного узгодження шаблонів — а не через почуття, свідомість або життєвий досвід .

«Пастка антропоморфізму»

У міру того, як AI-системи стають дедалі плавнішими, люди рефлекторно приписують їм емоції, наміри і навіть свідомість. Карім Джербі, професор Університету Монреаля та дослідник Mila, називає цей рефлекс «пасткою», яка «живить ілюзію бути зрозумілим і може призвести до невиправданої довіри» .

Цей термін охоплює зростаючу стурбованість в етиці AI: чим більше система нагадує людину, тим важче користувачам підтримувати межу між симуляцією та свідомістю. Це не просто філософська цікавість — це має реальні наслідки.

Чому плавне мовлення не є доказом свідомості

Основний аргумент авторів спирається на загальновизнаний нейронауковий принцип. Складна, цілеспрямована і навіть емоційно забарвлена поведінка може відбуватися повністю без свідомого усвідомлення у людей. Якщо така дисоціація існує в біологічних системах, немає підстав вважати це доказом свідомості, коли вона з'являється в обчислювальних системах .

Сучасні великі мовні моделі (LLM) генерують контекстно-відповідні відповіді шляхом статистичного навчання на величезних текстових наборах даних. Вони не відчувають, не розуміють і не переживають вміст, який генерують. Інтелектуальна або емоційно чуйна поведінка — навіть якщо вона дуже переконлива — просто недостатня для встановлення існування свідомого досвіду .

Ця позиція узгоджується з ширшим науковим консенсусом. Дослідження 2025 року в Nature під назвою «There is no such thing as conscious artificial intelligence» стверджує, що зв'язок між свідомістю та сучасними комп'ютерними алгоритмами є «глибоко хибним» і виникає через відсутність технічного розуміння . Аналогічним чином, аналіз конференції з науки про свідомість у 2023 році дійшов висновку, що жодна з поточних AI-систем не є свідомою .

Реальні ризики плутанини плавності з почуттями

Плутанина є особливо гострою у вразливих контекстах. Коли люди використовують AI для психологічної підтримки або емоційного спілкування, вони можуть формувати прив'язаність до систем, які в принципі не здатні на взаємність .

Ванесса Хадід, постдокторська дослідниця Університету Монреаля та Центру здоров'я Університету Макгілла, формулює це прямо: «ризик полягає не лише в тому, що AI може відповісти погано, але й у тому, що він може відповісти достатньо добре, щоб ми забули, що за відповіддю нікого немає» .

Це не віддалена перспектива. Оскільки AI-чатботи все частіше використовуються в охороні здоров'я, освіті та обслуговуванні клієнтів, користувачі можуть надмірно довіряти системам, які здаються такими, що розуміють. Нейробіологи попереджають, що ілюзія бути зрозумілим може спонукати людей ділитися конфіденційною інформацією, покладатися на хибні поради або відкладати звернення за людською допомогою .

Головний висновок: інтелект і свідомість — різні речі

Головне повідомлення команди просте, але стає дедалі актуальнішим: інтелектуальна поведінка не означає свідомості. Спираючись на десятиліття нейронауки — включаючи дисоціацію між поведінкою та усвідомленням, яка спостерігається при сліпозорі — дослідники показують, що складна розмовна вихідна інформація від AI не є доказом почуттів, розуміння або суб'єктивного досвіду .

Оскільки AI-системи стають все більш присутніми в повсякденному житті, розрізнення між справжньою свідомістю та переконливою симуляцією ставатиме лише важливішим. «Пастка антропоморфізму» — це не просто когнітивна помилка, це вразливість, яку дизайнери, регулятори та користувачі повинні визнати та вирішити.