AnswersPublished19 sources
Міжнародний нагляд, спільна лабораторія чи монополія: три сценарії для суперінтелекту
За повідомленнями, Альтман розглянув три можливі моделі: міжнародний нагляд за ШІ, спільну організацію провідних лабораторій або домінування одного розробника. Перший варіант порівнюють із МАГАТЕ, другий — із CERN; третій передбачає, що одна компанія зможе обмежити конкурентам доступ до обчислювальних ресурсів.
ОпублікувавВідредаговано за допомогою GPT-6 LunaЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- За повідомленнями, Альтман розглянув три можливі моделі: міжнародний нагляд за ШІ, спільну організацію провідних лабораторій або домінування одного розробника.
- Перший варіант порівнюють із МАГАТЕ, другий — із CERN; третій передбачає, що одна компанія зможе обмежити конкурентам доступ до обчислювальних ресурсів.
- Це були обговорювані сценарії, а не три офіційно затверджені політики OpenAI. Гіпотетичний «план Елієзера» також не слід плутати з ідеєю, яку приписують самому Елієзеру Юдковському.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
За повідомленнями, Сем Альтман розповів працівникам OpenAI про три можливі способи управляти розвитком суперінтелекту: створити міжнародний наглядовий орган, об’єднати провідні лабораторії в спільну структуру або допустити, щоб одна компанія отримала достатню перевагу для блокування конкурентів. Джерела пишуть, що Альтман, схоже, віддавав перевагу міжнародному нагляду, а третій сценарій назвав жахливим. Ідеться про можливі варіанти майбутнього, а не про три затверджені політики OpenAI. 1
4
6
Три сценарії
1. Міжнародний наглядовий орган
Перший варіант — створити структуру за зразком Міжнародного агентства з атомної енергії (МАГАТЕ), яка встановлювала б або забезпечувала дотримання стандартів безпеки ШІ. У повідомленнях цю модель описують як нагляд за передовими системами, зокрема перевірки чи аудити. 1
4
6
Однак із доступних повідомлень не випливає повний план повноважень такого органу. Зокрема, вони не підтверджують усіх подробиць, які іноді пов’язують із пропозицією, — наприклад, моніторингу обсягів обчислень і споживання енергії. Так само немає підтвердження, що внутрішнє обговорення було прямим продовженням конкретної пропозиції, оприлюдненої у травні 2023 року.
2. «План Деміса»
Другий варіант, який називають «планом Деміса», передбачає об’єднання провідних лабораторій штучного інтелекту в організацію на кшталт CERN — Європейської організації з ядерних досліджень — або їхню співпрацю під спільним управлінням. Назва відсилає до Деміса Гассабіса з Google DeepMind. Журналіст Амір Ефраті пов’язав цю ідею з пропозицією приблизно 2017 року. 5
23
За одним із повідомлень, така організація могла б надавати моделі країнам, які співпрацюють із нею. 5 Основна ідея — координувати розробку через спільну структуру або управління, а не покладатися лише на конкуренцію окремих лабораторій.
3. «План Елієзера»
Третій сценарій названо на честь дослідника безпеки ШІ Елієзера Юдковського. У версії, яку пов’язують із виступом Альтмана, один розробник здобуває вирішальну перевагу завдяки ШІ, здатному самовдосконалюватися, а потім використовує свій вплив, щоб обмежити конкурентам доступ до обчислювальних ресурсів. Цей сценарій переказують фразою «розплавити GPU всім іншим». За повідомленнями, Альтман відкинув такий варіант. 3
5
6
Що означає гіпотеза Юдковського — і чого вона не означає
Ця назва може змішати дві різні ідеї. У переказах тексту Юдковського 2022 року йдеться про «вирішальну дію» (pivotal act): узгоджений із людськими цілями штучний загальний інтелект мав би зупинити інших від створення неузгодженого ШІ. 7
10 Це не те саме, що компанія, яка використовує перевагу, аби закріпити власне панування над конкурентами.
Окреме повідомлення стверджує, що Юдковський згодом уточнив: його приклад із «спаленням усіх GPU» не був пропозицією до дії. 34 Доступні джерела не містять достатньо повного тексту його відповіді, щоб відтворити всі застереження. Важливо розрізняти гіпотетичне втручання, покликане не допустити появи небезпечного ШІ, і сценарій, у центрі якого — монополізація обчислювальних ресурсів одним розробником.
Наявні повідомлення також не доводять, що працівники OpenAI сприйняли назву «план Елієзера» як випад проти Anthropic. Сама назва на честь Юдковського не свідчить ані про підтримку цього сценарію з боку Anthropic, ані про те, що він був спрямований проти компанії.
Головний вибір — де зосередиться влада
Три сценарії відрізняються тим, кому належатиме контроль: міжнародному наглядовому органові, спільній структурі провідних лабораторій чи одному домінантному розробникові. Якщо повідомлення точні, найвиразніший висновок з обговорення — контраст між скоординованим наглядом і зосередженням контролю в руках однієї компанії: Альтман нібито віддавав перевагу першому та відкидав третій варіант. 1
4
6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Міжнародний нагляд, спільна лабораторія чи монополія: три сценарії для суперінтелекту"?
За повідомленнями, Альтман розглянув три можливі моделі: міжнародний нагляд за ШІ, спільну організацію провідних лабораторій або домінування одного розробника.
What are the key points to validate first?
За повідомленнями, Альтман розглянув три можливі моделі: міжнародний нагляд за ШІ, спільну організацію провідних лабораторій або домінування одного розробника. Перший варіант порівнюють із МАГАТЕ, другий — із CERN; третій передбачає, що одна компанія зможе обмежити конкурентам доступ до обчислювальних ресурсів.
What should I do next in practice?
Це були обговорювані сценарії, а не три офіційно затверджені політики OpenAI. Гіпотетичний «план Елієзера» також не слід плутати з ідеєю, яку приписують самому Елієзеру Юдковському.
Sources
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI