AnswersPublished16 sources
Sam Altman skitserer tre veje til at styre superintelligens
Altman skal ifølge rapporter have nævnt et internationalt tilsyn efter atomagenturets forbillede, et fælles AI laboratorium inspireret af CERN og et scenarie, hvor én udvikler får magt til at begrænse rivalerne. Han så tilsynsmodellen ud til at foretrække og beskrev angiveligt scenariet med én dominerende udvikler s...
Udgivet afRedigeret med GPT-6 LunaBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Altman skal ifølge rapporter have nævnt et internationalt tilsyn efter atomagenturets forbillede, et fælles AI laboratorium inspireret af CERN og et scenarie, hvor én udvikler får magt til at begrænse rivalerne.
- Han så tilsynsmodellen ud til at foretrække og beskrev angiveligt scenariet med én dominerende udvikler som forfærdeligt.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI staff about governing superintelligence through an IAEA-style international watchdog that sets sa. Article summary: Altman reportedly presented three possible ways to govern superintelligence, favoring shared international oversight and rejecting a scenario in which one AI developer becomes powerful enough to suppress its rivals; he r. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman skal ifølge medier have præsenteret OpenAI-medarbejdere for tre mulige måder at styre udviklingen af superintelligens på: internationalt tilsyn, fælles udvikling i et multinationalt AI-laboratorium eller en situation, hvor én udvikler bliver så magtfuld, at rivalerne mister adgang til den nødvendige regnekraft. Han så ud til at foretrække den første model og skal have kaldt den tredje “forfærdelig”. 5
10
15
Det er vigtigt at skelne mellem referaterne af Altmans bemærkninger og en formel politikplan. Scenarierne handler grundlæggende om, hvem der fastsætter sikkerhedsreglerne – og hvem der får magt over udviklingen af de mest avancerede AI-systemer.
Tre modeller for at styre superintelligens
1. Et internationalt AI-tilsyn
Den første mulighed er et internationalt organ med inspiration fra Det Internationale Atomenergiagentur (IAEA). Regeringer og AI-virksomheder skulle fastlægge sikkerhedsstandarder, mens uafhængige kontroller og revisioner kunne vurdere avancerede modeller, før de blev frigivet. 5
Tanken er, at virksomhederne ikke selv skal stå alene med vurderingen af, om deres egne modeller lever op til sikkerhedskravene.
2. Et fælles AI-laboratorium à la CERN
Den såkaldte “Demis-plan” er opkaldt efter Demis Hassabis, der står i spidsen for Google DeepMind. I den beskrevne model skulle store AI-laboratorier samles i – eller arbejde gennem – en multinational organisation inspireret af CERN, det europæiske forskningscenter for partikelfysik. Organisationen skulle udvikle AI til de lande, der deltager. 5
11
Her ville samarbejdet altså foregå inden for en fælles institution, snarere end gennem separate laboratorier underlagt ensartede regler udefra.
3. Én udvikler får overtaget
“Eliezer-planen”, opkaldt efter AI-sikkerhedsforskeren Eliezer Yudkowsky, beskriver et scenarie, hvor én udvikler opnår så stor økonomisk magt, at konkurrenterne kan miste adgangen til computerkraft. Billedet af rivalernes GPU’er, der bliver “smeltet”, bruges til at illustrere den ekstreme udgave af scenariet. Altman skal ifølge rapporterne have været imod denne mulighed. 5
10
Navnet er rapporternes betegnelse for scenariet – det dokumenterer ikke, at Yudkowsky selv har støttet netop denne plan. De tilgængelige oplysninger fastslår heller ikke præcist, hvordan en sådan dominans skulle opstå.
Hvorfor internationalt tilsyn skiller sig ud
Et internationalt tilsyn ville sætte fælles standarder og give mulighed for uafhængig kontrol. Det adskiller sig fra en model, hvor virksomhederne selv samles om udviklingen, og fra et scenarie, hvor kontrollen koncentreres hos én dominerende virksomhed. Altman så ifølge rapporterne ud til at foretrække tilsynsmodellen, men kilderne giver ikke en detaljeret forklaring på, hvorfor han foretrak den frem for et CERN-lignende samarbejde. 5
15
De tre forslag er derfor ikke blot forskellige måder at organisere de samme regler på: De placerer også beslutningskraften forskellige steder.
Et muligt brancheorgan er ikke det samme som et internationalt tilsyn
Separat har OpenAI, Google og Anthropic ifølge rapporter arbejdet på at etablere et brancheorgan for standarder inden for avanceret AI. Forslaget beskrives blandt andet som et initiativ, der kan støtte uafhængige evalueringer og skabe fælles forventninger til sikkerhedstest og rapportering af hændelser. 1
14
Det er ikke det samme som et internationalt tilsyn. Det omtalte organ er et brancheinitiativ, mens Altmans første scenarie handler om en international institution. Rapporterne fastslår ikke, at det foreslåede organ vil have offentlig myndighed eller håndhævelsesbeføjelser som dem, man kunne forbinde med et egentligt tilsyn. 5
14
De tre scenarier rejser dermed et grundlæggende spørgsmål: Skal sikkerheden omkring avanceret AI sikres gennem internationale regler og uafhængig kontrol, gennem fælles udvikling – eller overlades til en konkurrence, hvor én aktør kan få afgørende magt? Altmans rapporterede bemærkninger peger væk fra den sidste mulighed, men de bygger på gengivelser af hans udtalelser og ikke på en offentliggjort plan. 5
10
15
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Sam Altman skitserer tre veje til at styre superintelligens"?
Altman skal ifølge rapporter have nævnt et internationalt tilsyn efter atomagenturets forbillede, et fælles AI laboratorium inspireret af CERN og et scenarie, hvor én udvikler får magt til at begrænse rivalerne.
What are the key points to validate first?
Altman skal ifølge rapporter have nævnt et internationalt tilsyn efter atomagenturets forbillede, et fælles AI laboratorium inspireret af CERN og et scenarie, hvor én udvikler får magt til at begrænse rivalerne. Han så tilsynsmodellen ud til at foretrække og beskrev angiveligt scenariet med én dominerende udvikler som forfærdeligt.
Sources
chosun.comOpenAI CEO Sam Altman Proposes Three Measures for Safe AI Development
europesays.comSam Altman warns staff of nightmare scenario where one AI lab melts ...
minutemirror.com.pkOpenAI chief outlines three possible endgames for AI development
firstpost.comSam Altman's three AI safety scenarios range from global oversight to a worst-case outcome: Report