«Галлюцинации» искусственного интеллекта: как KPMG выпустила отчёт с выдуманными исследованиями и что это значит для всей консалтинговой индустрии

Масштаб фабрикации: 89% ссылок — брак

Проверка GPTZero 45 ссылок из отчёта выявила системный сбой верификации :

• Всего 5 ссылок корректно указывали на реальные релевантные источники.
• 28 ссылок имели перефразированные или изменённые названия: к реальным публикациям были «пришиты» вымышленные фрагменты.
• 12 ссылок оказались настолько размытыми или противоречивыми, что невозможно было установить, существовал ли такой источник вообще.
• Примерно половина содержательных утверждений отчёта, опиравшихся на эти ссылки, выглядели сфабрикованными или приписанными неверным источникам.

Итого: 89% библиографии было признано дефектной. Детектор ИИ от GPTZero добавил ещё один тревожный сигнал: документ был оценён на 56% как «смешанный» — это означает, что он, скорее всего, был сгенерирован или сильно доработан нейросетью, а затем опубликован без осмысленной проверки человеком .

Кого «цитировали» и в чём обвиняли?

Расследование выявило четыре крупные организации, которым приписали вымышленные кейсы внедрения «агентного ИИ» :

• UBS (швейцарский банк): отчёт утверждал, что банк использует агентный ИИ для персонализированных рекомендаций в сфере управления капиталом — однако ни одного подтверждающего источника найдено не было.
• NHS Greater Manchester (Национальная служба здравоохранения Великобритании): документ заявлял, что траст применяет ИИ для оркестрации пути пациента, — это утверждение не подтверждалось никакой реальной документацией.
• Transport for London (TfL) (транспортная система Лондона): TfL приводился в качестве примера оптимизации клиентского опыта в реальном времени с помощью ИИ — проверить это оказалось невозможно.
• Swiss Federal Railways (SBB) (Швейцарские железные дороги): отчёт представил кейс использования SBB агентного ИИ для интеграции точек контакта с клиентами — однако ни одна подобная инициатива не была найдена в цитируемых материалах.

В каждом случае ссылки вели на несуществующие отчёты, перефразированные названия несвязанных реальных публикаций или были настолько расплывчаты, что не имели практической ценности .

Корень проблемы: ИИ-инструмент без контроля

Аналитики GPTZero пришли к выводу, что ошибки, скорее всего, возникли из-за того, что ИИ-инструмент для исследований «перестарался», выполняя запрос найти реальные примеры «агентного ИИ». Нейросеть сгенерировала правдоподобные, но полностью вымышленные кейсы и ссылки, которые не были отсеяны на этапе рецензирования .

Этот случай подчёркивает критическую уязвимость: когда результаты ИИ-генерации публикуются без тщательной проверки человеком, возникает уверенная, авторитетно звучащая бессмыслица, которая наносит удар по репутации любой организации .

Системная проблема: «Большая четвёрка» тонет в фейках

Отозванный отчёт KPMG — далеко не единичный случай. Он вписывается в растущую череду ИИ-провалов в крупнейших консалтинговых и юридических фирмах :

• Deloitte Australia пришлось перевыпустить правительственный отчёт стоимостью 440 000 долларов после того, как в нём обнаружили вымышленные академические ссылки и сфабрикованную цитату из решения федерального суда . Фирма выплатила частичный возврат средств и столкнулась с публичной критикой: один из наблюдателей назвал документ «нашпигованным ошибками цитирования» .
• Ernst & Young (EY) подготовила отчёт о мошенничестве с программами лояльности — расследование GPTZero показало, что почти все URL-адреса в нём были битыми или поддельными, а более половины названий не соответствовали реальным источникам .
• Аналогичные проблемы всплывали в судебных документах, подготовленных ведущими юридическими фирмами, включая Sullivan & Cromwell .

Эти повторяющиеся сбои обнажают системный риск: без строгого контроля со стороны человека инструменты на базе ИИ генерируют «доказательства», которые выглядят убедительно, но рассыпаются при малейшей проверке. Для индустрии, которая продаёт доверие и экспертизу, цена ошибки измеряется не только деньгами, но и репутацией, а также пристальным вниманием регуляторов. История с KPMG — это чёткое предупреждение: «проверка» в рабочем процессе с использованием ИИ должна быть настоящей, тщательной и, главное, человеческой.