Сем Альтман: довіряти ШІ як духовному авторитету — ризик для безпеки

Сем Альтман заявив, що йому «дуже некомфортно», коли моделям штучного інтелекту приписують «релігійну силу» або віддають їм право судити замість людей. Він назвав це «реальною проблемою безпеки». У дописі Альтман не згадав Anthropic, однак через його появу невдовзі після повідомлень про зустрічі компанії з релігійними мислителями заяву сприйняли як непряму критику її роботи. 71

У цій суперечці важливо розрізняти дві речі: обговорення того, як має поводитися ШІ, чи можливе в нього свідоме переживання, — і заклик ставитися до нього як до духовного авторитету. За повідомленнями, Anthropic вивчала перші питання; співзасновник компанії Крістофер Ола водночас наголошував, що не знає, чи свідомі моделі ШІ. 1

Про що саме застеріг Альтман

У своєму дописі Альтман поєднав дві тривоги: наділення ШІ релігійною силою та відмову людей від власних суджень на користь моделі. Він назвав таке поєднання проблемою безпеки. Оскільки компанію чи конкретний проєкт він прямо не назвав, зв’язок із Anthropic — це висновок із контексту новин, а не пряме звинувачення в дописі. 7

Застереження стосується не лише релігії. Якщо сприймати впевнені, схожі на людські відповіді моделі як беззаперечний авторитет, її вплив на рішення може виявитися більшим, ніж виправдовують підтверджені знання та можливості системи. У згаданих публікаціях зафіксовано попередження Альтмана, але вони не показують, наскільки поширена така поведінка і до яких наслідків вона призводить. 67

Чому увагу привернули зустрічі Anthropic

Anthropic консультувалася з релігійними мислителями про моральну поведінку Claude — моделі компанії — та питання про можливу свідомість ШІ. Ці теми перетнулися із застереженням Альтмана, тож його слова прочитали як реакцію на роботу Anthropic. 17

Та різниця між обговоренням і твердженням тут принципова. «Ми не знаємо, чи свідомі моделі ШІ», — сказав Ола, додавши, що сам щиро не впевнений. Розгляд можливості свідомості не доводить, що модель має суб’єктивний досвід; так само консультації з релігійними мислителями щодо моральної поведінки самі по собі не надають моделі релігійного статусу. 1

Свідомість і моральна поведінка — не одне й те саме

Модель можна налаштовувати так, щоб вона дотримувалася певних правил поведінки. Це, однак, не доводить, що вона має внутрішній світ. За повідомленнями, в Anthropic обговорювали і поведінку Claude, і можливу свідомість моделей — ці питання не варто зводити до одного твердження. 1

У публікаціях також наведено застереження керівника підрозділу Microsoft, пов’язане зі спробами навчати моделі так, ніби вони свідомі: він попередив, що такий підхід може бути небезпечним. Це зафіксована позиція, а не остаточна відповідь на ширше питання про свідомість машин. Сам Ола, за повідомленнями, визнав невизначеність. 91

Людина в центрі дискусії

В енцикліці Папи Лева XIV про ШІ людська гідність стала центральною темою. За повідомленнями про документ, у ньому йшлося про посилення нагляду за компаніями, що розробляють ШІ, захист працівників від наслідків змін і протидію фальшивій інформації, створеній штучним інтелектом. Ці питання підкреслюють важливість того, щоб під час розробки та використання ШІ в центрі залишалися людські інтереси й відповідальність. 152

OpenAI також під пильною увагою

Дискусія розгорнулася на тлі окремих повідомлень про OpenAI. Business Insider писав, що керівник напряму безпеки Девід Робінсон залишив компанію та розкритикував її підхід до безпеки; BBC повідомляла, що OpenAI звільнила трьох дослідників через імовірне неналежне поводження з інформацією. Ці новини не дають відповіді на питання про свідомість ШІ, але важливі для оцінки заяв і управлінських практик обох компаній. 1226

Найточніший висновок тут вужчий за вердикт щодо Anthropic чи OpenAI: Альтман застеріг від ставлення до моделей як до релігійних авторитетів і від передачі їм людських суджень. Повідомлення про консультації Anthropic порушили суміжні питання — моральну поведінку Claude та можливу свідомість, — але доступні матеріали не доводять, що компанія надала Claude релігійний авторитет або що питання свідомості ШІ вже вирішене. 71