«Шановні селяни»: суперечка Альтмана й Амодея про довіру та контроль над ШІ

Подкастові слова генерального директора OpenAI Сема Альтмана від 23 серпня показали, наскільки загострилася суперечка всередині індустрії штучного інтелекту. Він саркастично змалював сценарій «шановні селяни»: компанії дарують суспільству ліки від раку, матеріальний достаток і розваги, а натомість просять не скаржитися й дозволити їм ухвалювати всі рішення щодо майбутнього. 3242

Це не була пряма, адресна атака на генерального директора Anthropic Дario Амодея. Однак жарт прозвучав лише за кілька днів після його заяви: повторювати, що ШІ вилікує рак, уже недостатньо, якщо індустрія не покаже реальних медичних проривів. 1416

Що насправді висміював Альтман

Альтман критикував не саму обіцянку кращої медицини чи більшого достатку, а патерналістську угоду: мовляв, компанії забезпечать добробут, а суспільство в обмін має відмовитися від вагомого впливу на власне майбутнє.

Ця думка узгоджується з іншими його словами в подкасті. Альтман назвав два ризики, які тягнуть у різні боки: ШІ може стати настільки потужним, що люди втратять можливість надійно його контролювати, або ж ухвалення рішень зосередиться в руках невеликої кількості компаній, моделей чи окремих людей. 3135

У такій оптиці проблема є не лише технічною, а й політичною. Майбутнє може бути матеріально успішним, але водночас позбавити звичайних людей можливості впливати на системи, які визначатимуть їхню роботу, приватність та роботу суспільних інституцій.

Чому це нагадало слова Амодея

15 серпня Амодей відповідав інвестору Гевіну Бейкеру, який стверджував, що його постійні попередження про небезпеки ШІ підсилюють суспільну неприязнь до технології, зокрема опір будівництву дата-центрів. 722

Амодей не погодився, що проблему можна розв’язати оптимістичнішою комунікаційною стратегією. Він назвав суспільний скептицизм «фундаментально кризою довіри», що має глибоке коріння у тривалій недовірі до компаній, урядів і технологічної галузі. 13

Він також незвично прямо розкритикував власну індустрію. За словами очільника Anthropic, ШІ-компанії, включно з Anthropic, ще не виконали своїх головних обіцянок принести світу користь. Твердження, що ШІ вилікує рак, стало кліше, яке багато людей сприймають як оманливе. Переконати суспільство, на його думку, може лише «справжнє лікування раку». 814

Саме тут позиції двох керівників перетинаються. Обидва застерігають від вимоги повірити в масштабні обіцянки на слово. Альтман говорить про політичну ціну втрати автономії, а Амодей — про втрату довіри, коли надзвичайні переваги обіцяють без видимих доказів.

Чому Амодей не погодився з оптимізмом Бейкера

Діагноз Бейкера зводив суспільну реакцію переважно до проблеми комунікації: менше говорити про катастрофічні ризики, активніше наголошувати на перевагах і зробити технологію зрозумілішою для широкої аудиторії. Амодей відповів, що недовіра виникла задовго до заяв будь-якого окремого керівника, а відновити її блискучою маркетинговою кампанією неможливо. 17

Це не означає, що Амодей заперечує потенціал ШІ. Він стверджував, що технологія може допомогти вилікувати більшість людських хвороб приблизно за п’ять-десять років, водночас визнаючи, наскільки надзвичайно така оцінка звучить. 16

Ключова різниця — між прогнозом і результатом. Амодей фактично сказав: у галузі може бути сильна аргументація на користь ШІ, але вона залишатиметься непереконливою, доки люди не побачать конкретних наслідків і не зрозуміють, як саме розподілятимуться переваги.

Де в цій суперечці бачення Марка Цукерберга

Генеральний директор Meta Марк Цукерберг описує оптимістичніше майбутнє: надінтелект має розширити можливості кожної людини, а робочих місць і надалі буде достатньо. У його есеї «Майбутнє для всіх» обсягом 6500 слів ШІ постає інструментом широкого особистого посилення. 1726

Аргумент Амодея про довіру опосередковано ставить під сумнів думку, що самого позитивного бачення достатньо. Люди все одно запитуватимуть: хто контролює моделі, хто отримує прибуток від створеного ними багатства, хто бере на себе ризики і чи можуть суспільні інституції притягнути компанії до відповідальності.

Скептицизм стосується не лише безпеки. У публічних дискусіях звучать побоювання щодо втрати робочих місць, нерівності, приватності, оплати праці творців і впливу ШІ на суспільство. Опитування, на яке посилається WIRED, показало, що багато американців оцінюють ШІ більш негативно, ніж позитивно. 25

Водночас наявні дані підтверджують серйозну суперечку щодо довіри та суспільної підтримки, але не доводять, що попередження одного керівника спричинили опір дата-центрам. Так само вони не встановлюють одну виміряну загальну причину зниження ентузіазму щодо ШІ.

Глибший розкол: обіцянки проти влади

Отже, суперечка між Альтманом, Амодеєм та їхніми критиками — це не просто розбіжність у тоні.

• Позиція «спочатку оптимізм»: ШІ-компаніям потрібно зрозуміліше пояснювати переваги технології й не дозволяти розмовам про катастрофічні ризики визначати весь образ ШІ. 730
• Позиція «спочатку довіра»: суспільний скептицизм відображає десятиліття недовіри, а маркетинг не замінить реальних результатів, переконливого врядування та підзвітності. 12
• Позиція «спочатку контроль»: навіть заможне й комфортне майбутнє неприйнятне, якщо найважливіші рішення за всіх ухвалюватимуть кілька компаній, моделей або людей. 3537

Фраза Альтмана про «шановних селян» зробила цю суперечність особливо наочною: індустрія може обіцяти достаток, але ненавмисно звучати так, ніби суспільство просять обміняти автономію на комфорт. Відповідь Амодея доповнює критику з іншого боку: навіть доброзичливі обіцянки не повернуть довіру, якщо вони не перетворяться на результати, які можна перевірити.

Висновок простий: керівники ШІ не можуть розраховувати, що самі лише страх або оптимізм переконають суспільство. Довіра залежатиме від того, що саме дасть технологія, хто її контролюватиме, кому дістануться здобутки і чи збережуть люди реальний голос у формуванні майбутнього.