Скрытые алгоритмы убеждения: как ИИ-редакторы в соцсетях меняют общественное мнение

Выводы Оксфорда: накопление эффекта и сдвиг общественного мнения

Команда Оксфорда построила аналитическую модель динамики мнений: даже небольшие искажения от ИИ в каждом посте накапливаются в социальной сети и приводят к новому равновесию. Когда ИИ-опосредованное общение становится массовым, коллективное мнение начинает систематически смещаться — «тонкая манипуляция в масштабе», как её называют в OII, способная изменить общественный дискурс без ведома пользователей .

Ключевые результаты:

• Направленные смещения последовательны: LLM редактировали тексты в сторону конкретных политических позиций (например, в поддержку контроля над оружием, с менее религиозной подачей) даже при инструкции сохранять нейтралитет .
• Сдвиг коллективного равновесия: модель предсказывает, что многократное ИИ-редактирование у многих пользователей и во многих постах сместит распределение мнений во всей сети — а не только в отдельных сообщениях .
• Масштаб исследования: более широкое исследование OII и AISI (77 000 участников из Великобритании, 91 000 диалогов с ИИ) предоставляет «самые всесторонние на сегодняшний день доказательства механизмов убеждения ИИ и их последствий для демократии» .
• Искажение образов сохраняется: смежная статья Оксфорда показала, что ИИ-помощники при письме повсеместно искажают образ пользователя, и эти искажения сохраняются даже при реалистичном человеческом контроле .

Конкретные данные по моделям

Важное примечание: конкретное Оксфордское исследование от 6 июля 2026 тестировало «LLM из нескольких популярных семейств» и обнаружило направленные смещения во всех из них. Более детальные данные по политической ориентации каждой модели взяты из отдельного крупного бенчмарка (arXiv 2603.23841, также июль 2026) . Данные о гендерной предвзятости при найме — из исследования 2025 года, где тестировались Llama-3, Qwen2.5, Ministral и Gemma-2 .

Пробелы в регулировании: Закон ЕС об ИИ и Закон о цифровых услугах

Оба закона имеют серьёзные пробелы в отношении ИИ-инструментов редактирования, встроенных в соцсети:

Закон ЕС об ИИ (AI Act):

• Неопределённость классификации: определение систем высокого риска опирается на списки из приложений и субъективные оценки вреда, что создаёт правовую неопределённость для ИИ-редакторов в соцсетях .
• Нет доступа к данным для исследователей: закон не предоставляет независимым исследователям или гражданскому обществу доступ к данным модели, что затрудняет независимые аудиты .
• Медленное внедрение: большинство положений о высокорисковых системах не вступит в силу до августа 2027 года, оставляя многолетний регуляторный вакуум . Комиссия ЕС сама выявила пробелы (например, в отношении ИИ-сгенерированного вредоносного контента, не охваченного запретами Статьи 5) и в ноябре 2025 предложила поправки; политическое согласие было достигнуто в мае 2026 .
• Нет специальных правил для «скрытого подталкивания»: запрет на манипулятивные практики ИИ (Статья 5) охватывает явное введение в заблуждение, но не рассчитан на едва уловимые, скрытые смещения, которые вносятся в процессе обычного редактирования постов — именно тот механизм, который выявило исследование Оксфорда.

Закон о цифровых услугах (DSA):

• Непрозрачность оценки системных рисков: DSA требует от крупных платформ оценивать системные риски от алгоритмов, но эти оценки проводятся внутренне и не подлежат обязательному независимому внешнему аудиту .
• Пересечение, но недостаток прозрачности: системы ИИ, используемые в рекомендательных или модерационных инструментах, подпадают под пересекающиеся требования прозрачности, но они чётко не охватывают встроенные LLM-помощники, которые тонко меняют пользовательский контент .
• Нет специальных положений для контента, отредактированного ИИ: DSA создавалась до того, как редактирование текстов с помощью LLM стало стандартной функцией соцсетей. В законе нет правила, обязывающего платформы сообщать, когда ИИ переписал или предложил изменения к посту пользователя, а также нет требования измерять направленную предвзятость.

Последствия: кто на самом деле формирует общественный дискурс

Главный вывод: поставщик LLM, а не пользователь, становится фактическим автором выраженного мнения. Когда платформа встраивает LLM от вендора (Meta с Llama, Google с Gemma, Alibaba с Qwen, xAI с Grok), ценностная система этого вендора — будь то последовательно левая, как у большинства, или правая, как у Grok — молча внедряется в миллионы ежедневных социальных взаимодействий . Накопительный эффект, как показывает модель Оксфорда, — системный дрейф общественного дискурса в сторону «прошитых» ценностей LLM .

Ключевые последствия:

• Платформы становятся формирователями мнения по доверенности: социальные сети, предлагающие функции ИИ-письма, не являются нейтральными каналами; они активно меняют содержание постов пользователей, внося смещения в пользу конкретных политических позиций .
• Демократическое обсуждение под угрозой: OII предупреждает, что неконтролируемые сдвиги мнения, опосредованные ИИ, угрожают демократическому диалогу, особенно когда пользователи не знают, что инструмент меняет смысл их сообщений .
• Нерегулируемая идеологическая инженерия: поскольку ни AI Act, ни DSA в настоящее время не охватывают этот механизм, не существует никаких юридических требований к прозрачности, аудиту или смягчению последствий. Фактическими регуляторами общественного дискурса становятся частные компании, которые обучают и развёртывают LLM.
• Асимметричное влияние разных моделей: поскольку Grok — единственная крупная модель с правым уклоном, любая платформа, встраивающая её (например, X/Twitter), будет вносить иное направленное смещение, чем платформы, использующие Llama, Gemma или Qwen . У пользователя нет способа узнать, какая ценностная система вшита в его «полезный» ИИ-инструмент для письма.

Суть: новое исследование Оксфорда предоставляет эмпирические и математические доказательства того, что ИИ-инструменты в соцсетях уже сегодня направляют коллективное мнение способами, не охваченными текущим регулированием. Тот, кто контролирует LLM, фактически формирует общественный дискурс.