«ИИ вылечит рак»: Альтман требует большего, Амодеи — доказательств

Обещание «ИИ вылечит рак» стало короткой формулой технологического оптимизма. Однако разногласие между гендиректором OpenAI Сэмом Альтманом и главой Anthropic Дарио Амодеи — не о том, важен ли был бы такой медицинский прорыв. Спор о другом: чего этому лозунгу не хватает. Для Альтмана — более широкого представления о пользе ИИ для человека; для Амодеи — доказательств.

В одном они сходятся: одного обещания недостаточно

Оба руководителя не считают, что фраза про рак сама по себе способна закрыть общественный спор об ИИ.

Альтман говорил, что технологическая индустрия крайне плохо объясняет позитивную сторону ИИ. Излечение рака, по его словам, было бы прекрасным достижением, но одной этой цели недостаточно: амбиции должны быть шире. ИИ, по его мнению, должен давать людям больше самостоятельности и возможностей — в том числе поддерживать творчество и предпринимательство, а не сосредотачивать возможности в руках небольшого числа организаций. 23

Амодеи предъявляет более жёсткое требование. Он назвал фразу «ИИ вылечит рак» клише, которое многие воспринимают как вводящее в заблуждение. Глянцевая кампания с позитивным посылом, считает он, не решит более глубокую проблему — кризис доверия. Критерий для индустрии один: реальные, понятные людям результаты; излечение рака он приводит как намеренно яркий пример. 49

Подход Альтмана: польза должна быть шире и ближе к человеку

Возражение Альтмана прежде всего связано с масштабом замысла. Медицинский прорыв исключительно ценен для общества, но сам по себе не отвечает на вопрос, как ИИ изменит повседневную жизнь обычных людей.

Его публичная аргументация строится вокруг распределённых возможностей: инструментов, которые помогают создавать, запускать проекты и компании, заниматься наукой или решать сложные технические задачи. В такой логике важен не только будущий прорыв, который кто-то передаст обществу, но и возможность людей самим пользоваться мощными системами и действовать более самостоятельно. 29

Поэтому ответ Альтмана скептикам — не просто «дождитесь лекарства». Индустрии необходимо сделать видимой более широкую пользу ИИ и показать на практике, что технология расширяет человеческую субъектность, а не уменьшает её. 23

Подход Амодеи: больше обещаний не заменят фактов

Амодеи не считает, что недоверие можно исправить ни более эффектной коммуникацией, ни ещё более грандиозными обещаниями. Если люди не видят за заявлением достоверных, уже полученных результатов, масштабная декларация лишь теряет силу.

Отсюда и ключевое расхождение. Альтман видит в «раковом» аргументе недостаточно широкий горизонт. Амодеи видит в нём недостаточную доказательность. Список потенциальных выгод — творческие инструменты, предпринимательство, научный прогресс, образование — мог бы усилить позицию Альтмана лишь при одном условии: если эти выгоды заметны, доступны не узкой группе и поддаются проверке. Иначе новая большая проекция рискует только подтвердить опасения Амодеи. 249

Почему рак — особенно рискованное обещание

ИИ уже исследуют и применяют в онкологии и разработке лекарств: при поиске терапевтических мишеней, проектировании молекул, диагностике и организации клинических процессов. Но успех в вычислительной модели или на ранней стадии поиска — не то же самое, что доказать улучшение исходов лечения у пациентов.

Обзор применения ИИ в онкологии указывает на сложности с интеграцией данных, интерпретируемостью моделей, справедливостью результатов, переносом решений в клиническую практику и регулированием. Авторы также отмечают: многие модели хорошо показывают себя на ретроспективных данных, но не имеют проспективной клинической валидации. 17

Разработка лекарства остаётся долгим и неопределённым процессом: путь от обнаружения кандидата до выхода на рынок обычно занимает примерно 10–15 лет. 1718 Новые оценки ИИ-разработки лекарств также заключают, что ИИ может ускорять ранние этапы, однако это ускорение не всегда превращается в более высокий успех на поздних стадиях клинических исследований. Ограничениями остаются воспроизводимость, прозрачность данных, регулирование и проверка в реальной практике. 22

Есть и обнадёживающие признаки: соединения, созданные при поддержке ИИ, уже дошли до клинической оценки. Но сами такие испытания не доказывают окончательную эффективность — тем более универсальное излечение рака. 19 Имеющиеся данные оправдывают осторожный оптимизм в отношении ИИ как исследовательского и клинического инструмента, но не позволяют уверенно обещать сроки победы над раком.

Доверие зависит и от того, кто несёт издержки

Медицинское обещание звучит на фоне более широких общественных опасений. Люди оценивают не только далёкую перспективу научного прорыва, но и близкие вопросы: занятость, дезинформацию, приватность, безопасность, образование и инфраструктуру, необходимую для работы передовых ИИ-систем.

Опрос Reuters/Ipsos показал разрыв между ожидаемыми выгодами и заметными издержками: быстрые темпы строительства дата-центров для ИИ одобряла примерно треть американцев, а 77% опасались роста счетов за электричество из-за такого развития. 34 Согласно глобальному докладу, 54% респондентов с осторожностью относятся к доверию ИИ; среди распространённых тревог — кибербезопасность, приватность, дезинформация, потеря работы, деградация навыков и более широкие социальные последствия. 38

Это не означает, что общество отвергает любое применение ИИ. Но цифры помогают понять, почему обещание будущей медицинской революции не обязательно убеждает людей, которые уже сегодня думают об энергопотреблении и водной нагрузке, коммунальных платежах, рабочих местах или контроле над технологией.

Каким мог бы быть убедительный общественный аргумент за ИИ

Альтман и Амодеи указывают на разные слабости нынешней риторики, но их позиции можно объединить в более требовательный стандарт.

Убедительный разговор об ИИ должен:

• Показывать конкретную пользу, а не только будущие возможности. Утверждения следует связывать с результатами, которые могут оценить независимые исследователи, регуляторы, пользователи и затронутые сообщества.
• Отделять открытие от клинической пользы. Быстрое формирование гипотез или проектирование молекул важно, но это не тождественно безопасному, одобренному и эффективному лечению.
• Прямо говорить о сроках и неопределённости. В медицине необходима валидация, и её не заменят впечатляющие демонстрации или наращивание вычислительных мощностей.
• Давать пользователям реальные возможности. Акцент Альтмана на творчестве и предпринимательстве убедителен тогда, когда доступ и выгоды распределены широко, а не сконцентрированы. 29
• Учитывать риски и инфраструктурные расходы. Доверие требует ясности о безопасности, влиянии на труд, приватность и о том, кто оплачивает потребление энергии и другие локальные последствия. 3438

Поэтому наиболее убедительная формула — не «поверьте нам, ИИ вылечит рак» и не «ИИ сделает всех творческими». Нужен послужной список доказанных и независимо проверяемых результатов — вместе с честным разговором об ограничениях, ответственным внедрением и справедливым отношением к людям и сообществам, которым приходится принимать на себя издержки развития ИИ.