Осторожно, ИИ-советчик: новое исследование показало, что алгоритмы дают противоречивые и предвзятые рекомендации по личным финансам

Авторы предупреждают: «Ответы генеративного ИИ могут звучать уверенно, но при этом быть неполными, вводящими в заблуждение или неверными», а «неоптимальные» или предвзятые результаты ставят под вопрос «согласованность и справедливость» таких рекомендаций. ^C

Шквал предупреждений от регуляторов

Выводы учёных — не единичный случай. За последние два года несколько правительственных агентств США выпустили параллельные предупреждения о рисках ИИ в финансовой сфере.

Министерство финансов США (июнь 2026 г.): В обширном докладе ведомство рекомендовало унифицировать определения ИИ для всех финансовых регуляторов, уточнить стандарты конфиденциальности и защиты данных, отметив, что ИИ может усиливать риски предвзятости, непрозрачности решений и зависимости от сторонних разработчиков. ^H

FTC, EEOC, CFPB и DOJ — совместное заявление (июнь 2026 г.): Четыре ведомства предупредили, что использование ИИ «имеет потенциал для закрепления незаконной предвзятости, автоматизации незаконной дискриминации и причинения иного вреда» в сфере потребительских финансов, и объявили о скоординированных правоприменительных действиях. ^F

Счётная палата США (GAO) — доклад (май 2025 г.): GAO выделила семь категорий рисков, связанных с ИИ в финансовых услугах: предвзятость при выдаче кредитов, защита инвесторов, конфиденциальность, защита прав потребителей, операционные и киберриски, модельный риск и риск нарушения нормативных требований. Регуляторам рекомендовано обновить руководства для борьбы с предвзятостью в системах ИИ финансовых учреждений. ^NL

Слушания в Комитете по финансовым услугам Палаты представителей США (2024 г.): Выступавший свидетель отметил, что ИИ таит в себе «большие опасности закрепления предвзятости, распространения дезинформации, исключения людей из необходимых услуг и причинения иного вреда». ^D

Доклад Минфина от декабря 2024 года: Вслед за запросом информации (RFI) Минфин выделил такие проблемы, как усиление ИИ предвзятости, заложенной в исторических данных, необъяснимость решений и своеобразный риск «галлюцинаций», присущий генеративному ИИ. ^DD

Эксперты: самоуверенность ИИ обманчива

Помимо официальных отчётов, независимые эксперты бьют тревогу по поводу авторитетного, но ненадёжного тона финансовых советов от ИИ. Профессор MIT Эндрю Ло предупредил в марте 2026 года, что языковые модели «всегда вернутся с ответом, который звучит авторитетно, даже если это не так», и для «очень специфических расчётов вашей личной ситуации» ИИ нельзя считать последней инстанцией. ^C

Отдельное исследование 2025 года, опубликованное в PLOS ONE под названием «Biased echoes: Large language models reinforce investment biases and increase portfolio risks of private investors», показало, что большие языковые модели не просто помогают с инвестициями — они могут активно делать портфели более рискованными, усиливая человеческие когнитивные искажения, такие как погоня за трендами и чрезмерная концентрация. ^J

Разрыв в регулировании: правила не поспевают за технологией

Многие источники указывают на существенный разрыв в правоприменении. GAO обнаружила, что у одного из ключевых пруденциальных регуляторов отсутствовали важные инструменты надзора за ИИ. ^N Комиссар CFTC Кристин Джонсон отметила, что GAO выявила шесть быстрорастущих сфер применения ИИ в финансах — автоматическая торговля, обнаружение мошенничества, кредитный скоринг, обслуживание клиентов, комплаенс и управление рисками — которые требуют обновления регуляторных рамок. ^C

Правозащитные группы, включая Consumer Federation of America и Consumer Reports, призвали к «регуляторной ясности и определённости» и потребовали, чтобы финансовые учреждения были обязаны активно искать и внедрять наименее дискриминационные алгоритмы перед развёртыванием систем ИИ. ^AA

Доклад Минфина 2026 года особо рекомендует согласовать определения ИИ и уточнить стандарты конфиденциальности, безопасности и качества данных для всех финансовых регуляторов. ^H

Что это значит для потребителей и консультантов

На данный момент посыл как со стороны академического сообщества, так и со стороны регуляторов однозначен: не стоит полагаться на ИИ как на основной источник решений в области личных финансов. Инструменты пока недостаточно последовательны, а риск получить предвзятый или просто неверный совет слишком высок. Финансовые специалисты обязаны перепроверять все результаты, полученные от ИИ, а Совет CFP чётко заявил, что планировщики несут полную ответственность за все советы и рекомендации, сгенерированные искусственным интеллектом. ^F

Главный вывод: исследование Journal of Financial Planning предоставляет свежие эмпирические доказательства того, что финансовые советы от ИИ непоследовательны и содержат расовую и гендерную предвзятость. Этот вывод подтверждается позицией сразу нескольких американских регуляторов, которые в 2024–2026 годах предупреждали, что нерегулируемый ИИ в финансах грозит потребителям ущербом, закреплением дискриминации и системной нестабильностью, и призывали к введению чётких правил, скоординированному правоприменению и обязательному тестированию на предвзятость.