AnswersPublished19 sources
Tre mulige veje til at styre superintelligens
Sam Altman gennemgik ifølge rapporter tre mulige modeller: internationalt tilsyn, et fælles organ for store AI laboratorier eller én udvikler, der kan blokere konkurrenter. Altman så ifølge rapporterne ud til at foretrække et internationalt tilsynsorgan og kaldte scenariet med én dominerende udvikler for forfærdeligt.
Udgivet afRedigeret med GPT-6 LunaBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Sam Altman gennemgik ifølge rapporter tre mulige modeller: internationalt tilsyn, et fælles organ for store AI laboratorier eller én udvikler, der kan blokere konkurrenter.
- Altman så ifølge rapporterne ud til at foretrække et internationalt tilsynsorgan og kaldte scenariet med én dominerende udvikler for forfærdeligt.
- Scenarierne blev præsenteret som mulige fremtidsforløb – ikke som vedtagne OpenAI politikker.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman gennemgik angiveligt tre mulige modeller for at styre udviklingen af superintelligens med OpenAI-medarbejderne: internationalt tilsyn, et fælles organ for de store AI-laboratorier eller én udvikler, der får magt nok til at holde konkurrenterne ude. Ifølge rapporterne hældte Altman til internationalt tilsyn og beskrev det tredje scenarie som forfærdeligt. Der var tale om mulige fremtidsforløb, ikke tre vedtagne OpenAI-politikker. 1
4
6
De tre scenarier
1. Et internationalt tilsynsorgan
Den første model går ud på at oprette et internationalt organ efter forbillede af Det Internationale Atomenergiagentur (IAEA), som kunne fastsætte eller håndhæve sikkerhedsstandarder for AI. Rapporterne beskriver en model med tilsyn med avancerede AI-systemer, herunder inspektioner eller revisioner. 1
4
6
De tilgængelige oplysninger fastlægger ikke præcist, hvilke beføjelser organet skulle have. De dokumenterer heller ikke alle de detaljer, der nogle gange knyttes til forslaget – eksempelvis overvågning af både computerkraft og energiforbrug – eller bekræfter, at den interne drøftelse var en direkte videreførelse af et bestemt forslag fra maj 2023.
2. “Demis-planen”
Den anden model, kaldet “Demis-planen”, ville samle store AI-laboratorier i en organisation efter forbillede af CERN – det europæiske forskningscenter for partikelfysik – eller lade dem arbejde under et fælles organ. Navnet henviser til Demis Hassabis fra Google DeepMind; journalisten Amir Efrati forbandt idéen med et forslag fra omkring 2017. 5
23
Ifølge én beretning skulle organisationen levere modeller til lande, der samarbejdede med den. 5 Grundtanken er altså at koordinere udviklingen gennem fælles ejerskab eller styring frem for at lade laboratorierne konkurrere hver for sig.
3. “Eliezer-planen”
Det tredje scenarie er opkaldt efter AI-sikkerhedsforskeren Eliezer Yudkowsky. I den version, der tilskrives Altman, opnår én udvikler et afgørende forspring ved hjælp af AI, der forbedrer sig selv. Udvikleren får derefter så stor magt, at den kan begrænse konkurrenternes adgang til computerkraft – scenariet, der er blevet sammenfattet som at “smelte alle andres GPU’er”. Ifølge rapporterne afviste Altman dette udfald. 3
5
6
Hvad Yudkowskys hypotese betyder – og ikke betyder
Navnet kan få to forskellige idéer til at flyde sammen. Beretninger om Yudkowskys tekst fra 2022 beskriver en “pivotal act”: en handling udført af en afstemt AGI, som skulle forhindre andre i at bygge en ikke-afstemt AGI. 7
10 Det er ikke det samme som, at en virksomhed bruger sit forspring til at sikre sig en dominerende position over for andre udviklere.
En separat rapport oplyser, at Yudkowsky senere præciserede, at hans eksempel om at “brænde alle GPU’er” ikke var et forslag. 34 De tilgængelige kilder giver ikke nok af hans fulde svar til, at alle forbehold kan gengives. Den centrale forskel, som kilderne underbygger, er mellem en hypotetisk indgriben for at forhindre en ikke-afstemt AGI og et scenarie, hvor én udvikler monopoliserer adgangen til computerkraft.
Rapporteringen dokumenterer heller ikke, at OpenAI-medarbejdere opfattede navnet “Eliezer-planen” som et stik til Anthropic. At scenariet er opkaldt efter Yudkowsky, er ikke i sig selv belæg for, at Anthropic støtter det, eller at navnet var rettet mod virksomheden.
Den grundlæggende afvejning
De tre scenarier placerer magten forskellige steder: hos et internationalt tilsynsorgan, i en fælles organisation for de førende AI-laboratorier eller hos én dominerende udvikler. Altman foretrak angiveligt det første scenarie og afviste det tredje. Den tydeligste pointe i drøftelsen er dermed spændingen mellem koordineret tilsyn og magtkoncentration. 1
4
6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tre mulige veje til at styre superintelligens"?
Sam Altman gennemgik ifølge rapporter tre mulige modeller: internationalt tilsyn, et fælles organ for store AI laboratorier eller én udvikler, der kan blokere konkurrenter.
What are the key points to validate first?
Sam Altman gennemgik ifølge rapporter tre mulige modeller: internationalt tilsyn, et fælles organ for store AI laboratorier eller én udvikler, der kan blokere konkurrenter. Altman så ifølge rapporterne ud til at foretrække et internationalt tilsynsorgan og kaldte scenariet med én dominerende udvikler for forfærdeligt.
What should I do next in practice?
Scenarierne blev præsenteret som mulige fremtidsforløb – ikke som vedtagne OpenAI politikker.
Sources
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI