AnswersPublished16 sources
Altman skisserte tre veier for å styre superintelligens – én kan gi en aktør makten over konkurrentene
Altman skal ha skissert et internasjonalt AI tilsyn, et felles forskningssamarbeid etter CERN modell og en framtid der én utvikler kan stenge konkurrenter ute fra datakraft. Ifølge rapportene så han ut til å foretrekke internasjonalt tilsyn og kalte monopolscenarioet «forferdelig».
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- Altman skal ha skissert et internasjonalt AI tilsyn, et felles forskningssamarbeid etter CERN modell og en framtid der én utvikler kan stenge konkurrenter ute fra datakraft.
- Ifølge rapportene så han ut til å foretrekke internasjonalt tilsyn og kalte monopolscenarioet «forferdelig».
- Forslagene er omtalt som kommentarer til OpenAI ansatte, ikke som en ferdig offentlig politikkplan.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI staff about governing superintelligence through an IAEA-style international watchdog that sets sa. Article summary: Altman reportedly presented three possible ways to govern superintelligence, favoring shared international oversight and rejecting a scenario in which one AI developer becomes powerful enough to suppress its rivals; he r. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman skal ha lagt fram tre mulige modeller for hvordan utviklingen av superintelligens kan styres: et internasjonalt tilsyn, et felles forskningssamarbeid mellom store AI-laboratorier – eller en framtid der én utvikler blir så mektig at konkurrentene mister tilgangen til datakraft. Ifølge omtalen så Altman ut til å foretrekke den første modellen og skal ha kalt den tredje «forferdelig». 5
10
15
Opplysningene bygger på rapportering om det Altman skal ha sagt til OpenAI-ansatte, ikke på et offentlig, detaljert politikkforslag. De tre alternativene handler først og fremst om hvem som skal sette reglene for avansert AI – og hvem som får makt over utviklingen.
Tre modeller for å styre superintelligens
1. Et internasjonalt AI-tilsyn
Den første modellen tar utgangspunkt i Det internasjonale atomenergibyrået (IAEA). Et internasjonalt organ skulle bidra til å utforme sikkerhetsstandarder sammen med myndigheter og AI-selskaper, og kontrollere avanserte modeller gjennom uavhengige vurderinger og revisjoner før de lanseres. 5
Hovedideen er at ikke bare selskapet som bygger en modell, skal avgjøre om den er trygg nok. Ekstern kontroll skal komme i tillegg.
2. Et CERN for AI
«Demis-planen», oppkalt etter Google DeepMinds toppsjef Demis Hassabis, skisserer en felles organisasjon for store AI-laboratorier – inspirert av CERN, det internasjonale forskningssenteret for partikkelfysikk. I den rapporterte versjonen skulle organisasjonen utvikle AI for land som deltar i samarbeidet. 5
11
Her er tanken altså ikke først og fremst et eksternt tilsyn med separate selskaper, men at utviklingen samles i én felles institusjon.
3. Én utvikler får overtaket
«Eliezer-planen», oppkalt etter AI-sikkerhetsforskeren Eliezer Yudkowsky, beskriver et scenario der én utvikler oppnår så stor økonomisk makt at konkurrentenes tilgang til datakraft kan begrenses. Bildet av rivalenes GPU-er – prosessorene som brukes til krevende AI-beregninger – som blir «smeltet», brukes for å illustrere hvor ekstremt utfallet kan bli. Altman skal ha tatt avstand fra dette scenarioet. 5
10
Navnet viser til scenarioet slik det er omtalt i rapporteringen. Det dokumenterer ikke at Yudkowsky selv har støttet akkurat denne planen. Kildene fastslår heller ikke alle trinnene i hvordan en slik dominans skulle oppstå.
Hvorfor tilsyn skiller seg fra de andre forslagene
Et internasjonalt tilsyn innebærer felles regler og uavhengig kontroll, framfor at hvert laboratorium alene vurderer egen sikkerhet. Men rapportene gir ikke en detaljert forklaring fra Altman på hvorfor han skal ha foretrukket tilsyn framfor et felles forskningssenter. 5
15
Forskjellen mellom modellene er likevel tydelig: Et tilsyn kontrollerer utviklerne utenfra. Et felles laboratorium samler utviklingen i én organisasjon. I monopolscenarioet blir makten i stedet konsentrert hos én dominerende aktør. Det er ulike måter å organisere styring på, ikke tre varianter av samme forslag.
Et bransjeinitiativ er ikke det samme som et internasjonalt tilsyn
Separat fra disse tre scenarioene skal OpenAI, Google og Anthropic arbeide med et forslag til bransjeorgan for standarder for avansert AI. De rapporterte målene omfatter støtte til uavhengige vurderinger og felles forventninger til sikkerhetstesting eller rapportering av hendelser. 1
14
Et slikt bransjeorgan er ikke det samme som et internasjonalt tilsyn: Det første beskrives som et initiativ fra selskapene selv, mens Altman-scenarioet handler om et internasjonalt organ. Rapporteringen fastslår heller ikke at det foreslåtte bransjeorganet vil ha offentlig myndighet eller håndhevingsmuligheter som et internasjonalt tilsyn. 5
14
De tre scenarioene peker dermed på et grunnleggende spørsmål: Skal reglene for AI-sikkerhet fastsettes og kontrolleres internasjonalt, skal utviklingen samles i et felles forskningsorgan, eller kan markedet ende med at én aktør får avgjørende makt? Altman skal ha foretrukket tilsyn framfor det siste utfallet, men detaljene bygger fortsatt på referater av uttalelsene hans – ikke på en formell plan. 5
10
15
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Altman skisserte tre veier for å styre superintelligens – én kan gi en aktør makten over konkurrentene"?
Altman skal ha skissert et internasjonalt AI tilsyn, et felles forskningssamarbeid etter CERN modell og en framtid der én utvikler kan stenge konkurrenter ute fra datakraft.
What are the key points to validate first?
Altman skal ha skissert et internasjonalt AI tilsyn, et felles forskningssamarbeid etter CERN modell og en framtid der én utvikler kan stenge konkurrenter ute fra datakraft. Ifølge rapportene så han ut til å foretrekke internasjonalt tilsyn og kalte monopolscenarioet «forferdelig».
What should I do next in practice?
Forslagene er omtalt som kommentarer til OpenAI ansatte, ikke som en ferdig offentlig politikkplan.
Sources
chosun.comOpenAI CEO Sam Altman Proposes Three Measures for Safe AI Development
europesays.comSam Altman warns staff of nightmare scenario where one AI lab melts ...
minutemirror.com.pkOpenAI chief outlines three possible endgames for AI development
firstpost.comSam Altman's three AI safety scenarios range from global oversight to a worst-case outcome: Report