ИИ в помощь, но не вместо: как учёным не попасть в ловушку алгоритмической предвзятости

Исследователи, использующие ИИ для синтеза литературы, сталкиваются с парадоксом: те же модели, которые способны вдвое сократить время отбора, могут незаметно усилить предвзятость, которую призваны устранить. Главный вывод из недавних исследований и институциональных рекомендаций однозначен: ИИ — не замена человеческому суждению, а откалиброванный помощник. Избежать предвзятости помогает методичный контроль со стороны человека, прозрачная отчётность и тщательная проверка на каждом этапе .

Ключевые принципы работы без предвзятости

Человек остаётся в центре

ИИ-инструменты должны помогать, а не заменять человеческое суждение. Команда исследователей несёт полную ответственность за строгость, достоверность и отчётность обзора . Успех ИИ — в создании надёжных инструментов, работающих вместе с исследователями, а не вместо них .

Придерживайтесь предварительно зарегистрированных, прозрачных протоколов

Систематические обзоры изначально разрабатывались для снижения предвзятости за счёт строгих, заранее определённых протоколов . Использование ИИ не освобождает от этого — напротив, требует ещё более тщательной документации.

Как смягчить конкретные виды предвзятости

Следите за ошибкой отбора при скрининге

Языковые модели могут систематически отдавать предпочтение определённым типам исследований, языкам или результатам. Исследователям следует сравнивать решения ИИ с «золотым стандартом» человеческого отбора для калибровки .

Остерегайтесь предвзятости подтверждения и публикационной предвзятости

Системы машинного обучения часто обучаются на «общепринятых» данных и уже опубликованных работах, которые и так смещены в сторону положительных результатов. Это может незаметно усилить существующие искажения в базе доказательств .

Проверяйте результаты ИИ на соответствие человеческому суждению

Не принимайте на веру исследования, данные или оценки риска предвзятости, предложенные ИИ. Перекрёстно проверяйте репрезентативную случайную выборку вручную .

Используйте ИИ только для тех задач, для которых он специально разработан и проверен

Никогда не следуйте совету модели за пределами её обученной области и всегда перепроверяйте её работу .

Прозрачность и стандарты отчётности

Раскрывайте каждый использованный ИИ-инструмент, включая версию и роль

В 2025 году Кокрейн, Кэмпбелловское сотрудничество, JBI и Сотрудничество по экологическим доказательствам совместно выпустили заявление, требующее открытого отчёта о любом использовании ИИ в синтезе доказательств .

Следуйте новым рекомендациям по отчётности

Трёхкомпонентное руководство по ответственному использованию ИИ в систематических обзорах предлагает использовать генерацию с дополненной выборкой (RAG) с проверяемой атрибуцией источников, позиционируя ИИ как «калиброванного партнёра», а не замену .

Устраняйте пробелы в обучении и стандартах

Для ответственного внедрения ИИ в синтез доказательств необходимы бо́льшая прозрачность, более чёткие стандарты отчётности и более широкое обучение пользователей .

Итог

ИИ может сократить ручную нагрузку на 50–75% на этапах скрининга литературы, извлечения данных и оценки риска предвзятости — при условии контроля со стороны исследователя и соблюдении стандартов PRISMA . Но те же исследования подтверждают, что ИИ вносит собственные искажения: ошибку отбора, предвзятость подтверждения, предвзятость обучающих данных. Противоядие — человеческий контроль, прозрачная отчётность и строгая проверка. Никогда не перекладывайте критическое мышление на инструмент.