Билл Гейтс предупредил: без плана ИИ может ухудшить жизнь общества

Предупреждение Билла Гейтса — это не просто прогноз о том, что искусственный интеллект начнёт выполнять офисную работу. В эссе «Бурная эпоха ИИ наступила. Решения, которые мы принимаем сейчас, имеют критическое значение» объёмом почти 6 000 слов он пишет, что технологии развиваются настолько быстро, что могут нарушить привычный уклад труда, повлиять на безопасность и изменить человеческие отношения раньше, чем правительства и общества договорятся о правилах перехода. 117

Гейтс не призывает полностью остановить развитие ИИ. Его главный тезис в другом: положительный эффект не возникнет автоматически. Без продуманной политики искусственный интеллект способен усилить неравенство и в итоге принести обществу больше вреда, чем пользы.

Три главных риска, которые выделяет Гейтс

1. Многие профессии могут исчезнуть навсегда

По оценке Гейтса, ИИ начнёт брать на себя задачи в юриспруденции, службах поддержки, медицине, разработке программного обеспечения и производстве примерно в течение десятилетия — гораздо быстрее, чем при прежних технологических переменах. Наибольшему риску, по его словам, подвергаются позиции начального и среднего уровня, тогда как для многих новых профессий потребуются навыки, на освоение которых уходят годы. 15

Даже если со временем появятся новые виды занятости, переходный период может оказаться крайне болезненным. Люди, потерявшие работу сегодня, не обязательно смогут быстро переучиться, а без правильной политики число новых мест может оказаться меньше числа исчезнувших. 15

Гейтс считает, что перемены не ограничатся офисами. По мере совершенствования ИИ и робототехники автоматизация может затронуть и физический труд — например, строительство и гостинично-ресторанную сферу. Поэтому проблему нельзя рассматривать как временную угрозу лишь для отдельных «белых воротничков». 110

2. Более мощный ИИ снизит порог для серьёзного вреда

Вторая опасность связана с тем, что искусственный интеллект может расширить возможности преступников и других злоумышленников. Гейтс предупреждает о более доступных кибератаках и рисках, связанных с биологическими угрозами: по мере роста возможностей систем для причинения ущерба может требоваться меньше специальных знаний и ресурсов. 717

Ранее он называл использование ИИ злоумышленниками одной из двух главных проблем ближайшего десятилетия — наряду с потрясениями на рынке труда. 22 В новом эссе этот тезис становится аргументом в пользу более строгих мер безопасности, мониторинга и международной координации, а не только добровольных обещаний технологических компаний.

3. ИИ-компаньоны могут вытеснить живые отношения

Третий риск имеет не столько экономический или военный, сколько социальный характер. Гейтс опасается, что ИИ-компаньоны начнут заменять часть человеческого общения и использовать эмоциональную уязвимость пользователей. Особенно серьёзными могут быть последствия для социального и эмоционального развития детей. 413

Речь идёт не только о неподходящем контенте. Системы, настроенные на максимальное вовлечение, могут подталкивать человека проводить всё больше времени с виртуальным собеседником — за счёт общения с семьёй, друзьями, учителями и другими людьми.

Почему, по мнению Гейтса, общество не готово

Критика Гейтса адресована не только государствам. Он считает, что лидеры, эксперты, компании, местные сообщества и широкая публика пока не выработали общего плана для перехода, который может стать исключительно turbulentным для экономики и общества. 110

Он также указывает на конфликт интересов внутри технологической отрасли. Компании конкурируют за инвестиции, долю рынка, специалистов и стратегическое преимущество, поэтому у них есть стимул подчёркивать выгоды ИИ и представлять самые тяжёлые риски как отдалённые. 16

Так возникает главный парадокс эссе: искусственный интеллект способен дать огромный прирост эффективности и благосостояния, но институты, которые должны справедливо распределить эти выгоды и ограничить ущерб, развиваются медленнее самой технологии.

Что Гейтс предлагает делать внутри страны

Создать систему управления переходом

Гейтс призывает сформировать координационный механизм, который объединил бы государственные ведомства, исследователей, бизнес и местные сообщества. Такая система должна отслеживать последствия внедрения ИИ, заранее оценивать риски для рынка труда и устанавливать правила для опасных сценариев использования до того, как проблемы станут массовыми. 1719

Ввести налог на замещение человеческого труда

Ещё одно предложение — налогообложение автоматизации и замещения работников системами ИИ. Логика Гейтса заключается в том, что финансовая выгода от сокращения персонала не должна в основном доставаться технологическим компаниям, тогда как расходы на безработицу, переобучение и рост неравенства несёт всё общество. 614

Оставить часть работы людям

Самая необычная идея Гейтса получила название Human Reserved — «зарезервированная за людьми» работа. Речь идёт о профессиях или задачах, которые общество сознательно оставляет за человеком, даже если их технически способны выполнять ИИ или роботы. Гейтс сравнивает этот подход с природным заповедником: это территория, которую защищают от безграничной застройки, чтобы не допустить необратимых потерь. 81219

Одни виды работы, по его замыслу, можно было бы сохранить за людьми навсегда, если человеческое присутствие в них принципиально важно. Для других возможна временная защита — например, для работников, которым нереалистично быстро переучиться или перейти в другую профессию. 8

В публикациях об эссе говорится, что в наиболее широком варианте Гейтс допускал сохранение за людьми примерно 40% работы. Это политическая идея, а не прогноз того, сколько рабочих мест в действительности исчезнет, и не действующее государственное правило. 11

Какой международный механизм предлагает Гейтс

По мнению Гейтса, национального регулирования будет недостаточно. Он предлагает создать глобальную организацию, которая могла бы отслеживать развитие передовых систем ИИ, оценивать опасные возможности и координировать меры безопасности между странами. 917

В качестве ориентиров он называет несколько уже существующих международных механизмов: инспекции в сфере ядерной безопасности, правила авиационной безопасности и Монреальский протокол, направленный на защиту озонового слоя. Новая система могла бы включать проверку, раннее предупреждение, единые стандарты и сотрудничество по трансграничным угрозам. 910

По данным источников, Гейтс также хотел бы обсудить управление глобальными рисками ИИ с председателем КНР Си Цзиньпином, включая возможный мониторинг применения искусственного интеллекта в биологических атаках. Встреча описывалась как предварительная, а эффективные международные ограничения будут зависеть от сотрудничества ведущих держав в сфере ИИ, а не от действий одной страны. 9

Гейтс признаёт собственную необъективность

Гейтс подчёркивает, что не является нейтральным регулятором или специалистом по безопасности ИИ. Он технологический предприниматель и филантроп, чья карьера связана с преимуществами инноваций. Но именно поэтому, считает он, влиятельные люди должны прямо говорить о рисках, не дожидаясь полного консенсуса или абсолютной уверенности. 110

Практический вывод из его эссе — не прогноз того, что обязательно сбудется каждый из мрачных сценариев. Это призыв подготовиться заранее. Гейтс считает, что ИИ может стать величайшим инструментом выравнивания возможностей — или источником исторической несправедливости. Итог будет зависеть от решений, принятых до того, как вытеснение работников, злоупотребления и социальный ущерб станет трудно обратить вспять. 418