AnswersPublished19 sources
Tre mulige framtider for styringen av superintelligens
Altman skal ha presentert tre mulige modeller: et internasjonalt tilsynsorgan, en felles organisasjon for store AI laboratorier eller én utvikler som stenger konkurrenter ute fra datakraft. Ifølge rapportene virket Altman å foretrekke internasjonalt tilsyn og beskrev det siste scenarioet som svært dårlig.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- Altman skal ha presentert tre mulige modeller: et internasjonalt tilsynsorgan, en felles organisasjon for store AI laboratorier eller én utvikler som stenger konkurrenter ute fra datakraft.
- Ifølge rapportene virket Altman å foretrekke internasjonalt tilsyn og beskrev det siste scenarioet som svært dårlig.
- Yudkowskys tidligere tankeeksperiment om å hindre utviklingen av farlig AI er ikke det samme som at ett selskap sikrer seg monopol på datakraft.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman skal ha gått gjennom tre mulige måter å styre utviklingen av superintelligens på under et møte med OpenAI-ansatte: internasjonalt tilsyn, en felles organisasjon for de største AI-laboratoriene eller én utvikler som får nok makt til å stenge rivaler ute. Ifølge rapportene så Altman ut til å foretrekke internasjonalt tilsyn og omtalte det tredje scenarioet som svært dårlig. Dette ble presentert som mulige framtidsbilder – ikke som tre vedtatte OpenAI-policyer. 1
4
6
Tre scenarioer for styring av superintelligens
1. Et internasjonalt tilsynsorgan
Det første alternativet er et internasjonalt organ etter modell av Det internasjonale atomenergibyrået (IAEA). Et slikt organ kunne få en rolle i å fastsette eller håndheve sikkerhetsstandarder for AI. Rapportene beskriver også tilsyn med avanserte AI-systemer, blant annet gjennom inspeksjoner eller revisjoner. 1
4
6
Rapporteringen gir ikke et fullstendig bilde av hvilke fullmakter organet skulle ha. Den dokumenterer heller ikke alle detaljene som noen ganger knyttes til forslaget – for eksempel overvåking av både datakraft og energibruk – eller fastslår at diskusjonen internt var en direkte videreføring av et bestemt forslag fra mai 2023.
2. «Demis-planen»
Det andre alternativet ble kalt «Demis-planen», etter Demis Hassabis i Google DeepMind. Ideen er å samle de største AI-laboratoriene i én CERN-lignende organisasjon, eller la dem samarbeide under en felles struktur. Journalisten Amir Efrati knyttet forslaget til en idé fra rundt 2017. 5
23
Én omtale beskriver en modell der organisasjonen kunne levere modeller til land som samarbeider med den. 5 Hovedtanken er å samordne utviklingen gjennom felles eierskap eller styring, i stedet for at laboratoriene konkurrerer hver for seg.
3. «Eliezer-planen»
Det tredje scenarioet er oppkalt etter AI-sikkerhetsforskeren Eliezer Yudkowsky. I versjonen som knyttes til Altmans diskusjon, får én utvikler et avgjørende forsprang ved hjelp av AI som forbedrer seg selv. Utvikleren får deretter så stor makt at rivalene kan nektes tilgang til datakraft – oppsummert med uttrykket «å smelte alle andres GPU-er». Rapportene sier at Altman avviste dette utfallet. 3
5
6
Yudkowskys tankeeksperiment er ikke det samme scenarioet
Navnet kan få to ulike ideer til å gli over i hverandre. Omtaler av Yudkowskys tekster fra 2022 beskriver en «pivotal act»: En AI som er i tråd med menneskelige mål, skulle hindre andre i å utvikle AI som ikke er det. 7
10 Det er ikke det samme som at et selskap bruker forspranget sitt til å sikre seg dominans over andre utviklere.
En egen rapport sier at Yudkowsky senere presiserte at eksempelet hans om å «brenne alle GPU-er» ikke var et forslag. 34 Kildene som er tilgjengelige her, gjengir ikke hele svaret hans, så det er ikke mulig å slå fast alle forbeholdene han tok. Det sentrale skillet er mellom et hypotetisk inngrep for å hindre utviklingen av utrygg AI og et scenario der én utvikler monopoliserer tilgangen til datakraft.
Rapporteringen fastslår heller ikke at OpenAI-ansatte tolket navnet «Eliezer-planen» som et stikk til Anthropic. At scenarioet er oppkalt etter Yudkowsky, er ikke i seg selv bevis på at Anthropic støtter det – eller at betegnelsen var ment som en hentydning til selskapet.
Hvor ligger makten?
De tre scenarioene plasserer makten på ulike steder: hos et internasjonalt tilsynsorgan, i en felles organisasjon for ledende AI-laboratorier eller hos én dominerende utvikler. Dersom rapportene om Altman stemmer, foretrakk han det første alternativet og avviste det tredje. Den tydeligste kontrasten i diskusjonen er dermed mellom samordnet tilsyn og konsentrert kontroll. 1
4
6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tre mulige framtider for styringen av superintelligens"?
Altman skal ha presentert tre mulige modeller: et internasjonalt tilsynsorgan, en felles organisasjon for store AI laboratorier eller én utvikler som stenger konkurrenter ute fra datakraft.
What are the key points to validate first?
Altman skal ha presentert tre mulige modeller: et internasjonalt tilsynsorgan, en felles organisasjon for store AI laboratorier eller én utvikler som stenger konkurrenter ute fra datakraft. Ifølge rapportene virket Altman å foretrekke internasjonalt tilsyn og beskrev det siste scenarioet som svært dårlig.
What should I do next in practice?
Yudkowskys tidligere tankeeksperiment om å hindre utviklingen av farlig AI er ikke det samme som at ett selskap sikrer seg monopol på datakraft.
Sources
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI