AnswersPublished19 sources
Drie scenario’s voor superintelligentie: internationaal toezicht, samenwerking of machtsconcentratie
De drie gerapporteerde scenario’s zijn een internationale toezichthouder, een gezamenlijke organisatie voor grote AI labs en één ontwikkelaar die rivalen de toegang tot rekenkracht kan ontzeggen. Altman zou het internationale model het meest zien zitten en het scenario van één dominante ontwikkelaar hebben afgewezen.
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- De drie gerapporteerde scenario’s zijn een internationale toezichthouder, een gezamenlijke organisatie voor grote AI labs en één ontwikkelaar die rivalen de toegang tot rekenkracht kan ontzeggen.
- Altman zou het internationale model het meest zien zitten en het scenario van één dominante ontwikkelaar hebben afgewezen.
- De naam ‘Eliezer plan’ betekent niet dat AI veiligheidsonderzoeker Eliezer Yudkowsky zo’n machtsgreep voorstelt.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altman zou OpenAI-medewerkers drie mogelijke routes hebben voorgelegd om de ontwikkeling van superintelligentie te besturen: internationaal toezicht, een gezamenlijke organisatie voor grote AI-labs, of één ontwikkelaar die zo machtig wordt dat die rivalen kan tegenhouden. Volgens berichtgeving leek Altman de voorkeur te geven aan internationaal toezicht; het derde scenario noemde hij naar verluidt een verschrikkelijk vooruitzicht. Het ging om mogelijke eindscenario’s, niet om drie officieel aangenomen beleidsplannen van OpenAI. 1
4
6
De drie scenario’s
1. Een internationale toezichthouder
De eerste optie is een internationale instantie naar het voorbeeld van het Internationaal Atoomenergieagentschap (IAEA). Die zou een rol krijgen bij het opstellen of handhaven van veiligheidsnormen voor AI. In de berichtgeving wordt gesproken over toezicht op geavanceerde AI-systemen, waaronder inspecties of audits. 1
4
6
De beschikbare berichtgeving maakt niet duidelijk hoe ver de bevoegdheden van zo’n instantie precies zouden reiken. Zo is niet elk detail dat soms aan het voorstel wordt gekoppeld onderbouwd: de bronnen bevestigen bijvoorbeeld niet dat het plan ook het monitoren van rekenkracht en energieverbruik omvat. Evenmin blijkt eruit dat de interne bespreking rechtstreeks voortbouwde op een specifiek voorstel uit mei 2023.
2. Het ‘Demis-plan’
De tweede optie heet het ‘Demis-plan’, naar Demis Hassabis van Google DeepMind. Grote AI-labs zouden worden samengebracht in één organisatie, of onder een gedeeld orgaan samenwerken, naar het voorbeeld van CERN, het Europese onderzoekscentrum voor deeltjesfysica. Journalist Amir Efrati bracht het idee in verband met een voorstel van rond 2017. 5
23
Volgens een van de verslagen zou de organisatie modellen beschikbaar stellen aan landen die eraan meewerken. 5 De kern is samenwerking via gedeeld bestuur of eigenaarschap, in plaats van afzonderlijke labs die met elkaar concurreren.
3. Het ‘Eliezer-plan’
Dit scenario is vernoemd naar AI-veiligheidsonderzoeker Eliezer Yudkowsky. In de versie die aan Altmans bespreking wordt toegeschreven, bouwt één ontwikkelaar dankzij zelfverbeterende AI een beslissende voorsprong op. De ontwikkelaar krijgt vervolgens genoeg macht om rivalen de toegang tot rekenkracht te ontzeggen — beeldend samengevat als het ‘smelten van alle GPU’s van de anderen’. GPU’s zijn chips die veel worden gebruikt voor AI-berekeningen. Volgens de berichtgeving wees Altman dit scenario af. 3
5
6
Wat het hypothetische voorbeeld van Yudkowsky wel en niet betekent
De naam kan twee verschillende ideeën door elkaar laten lopen. Verslagen van Yudkowsky’s teksten uit 2022 beschrijven een ‘pivotal act’: een afgestemde AGI zou anderen ervan weerhouden een niet-afgestemde AGI te bouwen. 7
10 Dat is niet hetzelfde als een bedrijf dat zijn voorsprong gebruikt om concurrerende ontwikkelaars buitenspel te zetten.
Een afzonderlijk bericht meldt dat Yudkowsky later verduidelijkte dat zijn voorbeeld van ‘alle GPU’s verbranden’ geen voorstel was. 34 De beschikbare bronnen bevatten niet genoeg van zijn volledige reactie om alle nuances ervan weer te geven. De relevante tegenstelling is dus die tussen een hypothetische ingreep om de bouw van een niet-afgestemde AGI te voorkomen en een scenario waarin één ontwikkelaar de toegang tot rekenkracht monopoliseert.
De berichtgeving stelt ook niet vast dat OpenAI-medewerkers de naam ‘Eliezer-plan’ zagen als een sneer naar Anthropic. Dat het scenario naar Yudkowsky is genoemd, bewijst niet dat Anthropic het onderschrijft of dat de naam op het bedrijf was gericht.
Waar de keuze uiteindelijk om draait
De drie scenario’s leggen de macht op verschillende plekken: bij een internationale toezichthouder, bij een gezamenlijke organisatie van grote AI-labs, of bij één dominante ontwikkelaar. Als de berichtgeving klopt dat Altman de voorkeur gaf aan het eerste scenario en het derde afwees, is het belangrijkste contrast dat tussen gezamenlijk toezicht en geconcentreerde controle. 1
4
6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Drie scenario’s voor superintelligentie: internationaal toezicht, samenwerking of machtsconcentratie"?
De drie gerapporteerde scenario’s zijn een internationale toezichthouder, een gezamenlijke organisatie voor grote AI labs en één ontwikkelaar die rivalen de toegang tot rekenkracht kan ontzeggen.
What are the key points to validate first?
De drie gerapporteerde scenario’s zijn een internationale toezichthouder, een gezamenlijke organisatie voor grote AI labs en één ontwikkelaar die rivalen de toegang tot rekenkracht kan ontzeggen. Altman zou het internationale model het meest zien zitten en het scenario van één dominante ontwikkelaar hebben afgewezen.
What should I do next in practice?
De naam ‘Eliezer plan’ betekent niet dat AI veiligheidsonderzoeker Eliezer Yudkowsky zo’n machtsgreep voorstelt.
Sources
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI