Білл Гейтс назвав три головні ризики ери ШІ — від зникнення професій до втрати людських зв’язків

Попередження Білла Гейтса стосується не лише можливого скорочення офісних працівників. У своєму майже 6-тисячному есе «Турбулентна ера ШІ вже настала. Рішення, які ми ухвалюємо зараз, є критично важливими» він пише, що штучний інтелект розвивається настільки швидко, що може вдарити по ринку праці, безпеці та людських стосунках раніше, ніж уряди й суспільства домовляться про правила переходу. 117

Гейтс не закликає повністю зупинити розвиток ШІ. Його головна теза інша: користь від технології не переважить шкоду автоматично. Без цілеспрямованої політики штучний інтелект може посилити нерівність і зрештою дати негативний результат для суспільства.

Три головні ризики, про які говорить Гейтс

1. ШІ може назавжди витіснити мільйони працівників

За оцінкою Гейтса, штучний інтелект перебере на себе частину роботи у сфері права, обслуговування клієнтів, медицини, розробки програмного забезпечення та виробництва приблизно протягом десятиліття — а не за кілька поколінь. Найбільш уразливими він вважає початкові та середні за рівнем посади. Водночас багато нових професій вимагатимуть навичок, на здобуття яких потрібні роки. 15

Навіть якщо згодом ШІ створить нові види зайнятості, перехід може виявитися болісним. Працівники, які втратять роботу зараз, не обов’язково зможуть швидко перенавчитися, а без відповідної політики кількість нових місць може бути меншою за кількість втрачених. 15

Зміни не обмежаться роботою за комп’ютером. У ширшій перспективі розвиток ШІ та робототехніки може торкнутися і фізичної праці — зокрема будівництва та сфери гостинності. Тому, на думку Гейтса, автоматизацію не можна розглядати як тимчасову проблему лише окремих офісних професій. 110

2. Потужніший ШІ може спростити завдання для зловмисників

Ще одне застереження стосується безпеки. Гейтс вважає, що ШІ може посилити можливості злочинців та інших зловмисників у проведенні кібератак і створенні біологічних загроз. Що потужнішими стають системи, то нижчими можуть бути рівень експертизи й ресурси, необхідні для заподіяння серйозної шкоди. 717

Раніше Гейтс називав використання ШІ зловмисниками одним із двох визначальних викликів наступного десятиліття — поряд із потрясіннями на ринку праці. 22 У новому есе ця теза перетворюється на заклик до сильніших запобіжників, моніторингу та міжнародної координації, а не лише надії на добровільні обіцянки технологічних компаній.

3. ШІ-компаньйони можуть витісняти людські стосунки

Третій ризик має радше соціальний, ніж економічний чи військовий характер. Гейтс застерігає, що ШІ-компаньйони здатні замінювати частину живого спілкування та використовувати емоційні вразливості людей. Особливо серйозними можуть бути наслідки для соціального й емоційного розвитку дітей. 413

Йдеться не лише про небезпечний або неприйнятний контент. Системи, оптимізовані для максимального залучення, можуть підштовхувати користувачів проводити більше часу зі штучним співрозмовником — навіть якщо це відсуває на другий план родину, друзів, учителів та інші людські зв’язки.

Чому суспільство, за Гейтсом, не готове

Критика Гейтса спрямована не тільки на уряди. Він вважає, що політики, експерти, бізнес, громади та громадськість досі не мають спільного плану переходу, який може стати одним із найтурбулентніших в історії. 110

Він також зазначає, що індустрія має причини наголошувати на перевагах ШІ та відсувати найсерйозніші ризики в далеке майбутнє. Компанії змагаються за інвестиції, частку ринку, таланти й технологічну перевагу, а це ускладнює обережний підхід навіть тоді, коли ризики є реальними. 16

У цьому й полягає центральна суперечність його есе: ШІ може принести величезні здобутки, але інституції, які мають справедливо розподілити їх і стримати шкоду, розвиваються повільніше, ніж сама технологія.

Що Гейтс пропонує робити на національному рівні

Створити систему управління переходом

Гейтс закликає сформувати координаційну структуру, яка об’єднає державні органи, дослідників, бізнес і громади. Вона мала б відстежувати вплив ШІ, прогнозувати зміни на ринку праці та встановлювати правила для небезпечних способів використання технології ще до того, як проблеми набудуть масштабного характеру. 1719

Оподатковувати заміну людської праці

Інша його пропозиція — податки або подібні механізми для автоматизації та заміни працівників системами ШІ. Логіка полягає в тому, щоб фінансові вигоди від скорочення персоналу не діставалися переважно технологічним компаніям, тоді як суспільство оплачувало безробіття, перенавчання та зростання нерівності. 614

Залишити частину роботи людям

Найвиразніша ідея Гейтса — «Human Reserved», тобто робота або завдання, які суспільство свідомо залишає за людьми, навіть якщо їх можуть виконувати ШІ чи роботи. Він порівнює цей підхід із природним заповідником — територією, яку захищають, оскільки необмежена забудова могла б призвести до незворотних втрат. 81219

Одні професії можуть залишатися людськими назавжди, якщо присутність людини в них вважатиметься принципово важливою. Інші можна було б тимчасово захищати, щоб допомогти працівникам, які об’єктивно не можуть швидко перенавчитися чи перейти в нову сферу. 8

За повідомленнями про есе, у наймасштабнішій версії цієї ідеї Гейтс говорив про резервування для людей приблизно 40% роботи. Це політична пропозиція, а не прогноз того, скільки робочих місць зникне, і не чинне правило уряду. 11

Яку міжнародну систему хоче бачити Гейтс

Національних правил, на його думку, буде недостатньо. Гейтс пропонує створити глобальну інституцію, яка могла б стежити за розвитком передового ШІ, оцінювати небезпечні можливості систем і координувати запобіжники між країнами. 917

За задумом, така модель мала б запозичити окремі принципи з міжнародних систем ядерних інспекцій, авіаційної безпеки та Монреальського протоколу, спрямованого на захист озонового шару. Серед завдань — перевірки, раннє попередження, спільні стандарти та співпраця щодо ризиків, які не зупиняються на державних кордонах. 910

Також повідомлялося, що Гейтс прагне обговорити з головою КНР Сі Цзіньпіном міжнародне управління ризиками ШІ, зокрема моніторинг можливого використання технології для біологічних атак. Зустріч описували як попередньо заплановану на листопад 2026 року, а будь-які дієві глобальні обмеження залежатимуть від співпраці провідних держав у сфері ШІ, а не від дій однієї країни. 9

Гейтс визнає власну необ’єктивність

Гейтс прямо зазначає, що не є нейтральним регулятором чи фахівцем із безпеки ШІ. Він технологічний підприємець і філантроп, чия кар’єра тісно пов’язана з перевагами інновацій. Водночас, за його словами, саме впливові люди мають відкрито говорити про ризики, а не чекати цілковитого консенсусу чи абсолютної визначеності. 110

Практичний висновок із його есе — не прогноз, що кожен найгірший сценарій неодмінно справдиться. Це заклик готуватися заздалегідь. Гейтс вважає, що ШІ може стати найпотужнішим інструментом зрівняння можливостей або джерелом історичної несправедливості — і результат залежатиме від рішень, ухвалених до того, як масове витіснення працівників, зловживання технологією та соціальна шкода стануть важкими для виправлення. 418