AnswersPublished19 sources
Kolme mahdollista tietä superälyn hallintaan
Sam Altmanin kerrotaan esitelleen kolme vaihtoehtoa: kansainvälinen valvonta, suurten tekoälylaboratorioiden yhteisorganisaatio tai yhden kehittäjän ylivalta. Raporttien mukaan Altman vaikutti kannattavan kansainvälistä valvontaelintä ja piti kilpailijat sivuuttavaa kolmatta skenaariota huonona.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Sam Altmanin kerrotaan esitelleen kolme vaihtoehtoa: kansainvälinen valvonta, suurten tekoälylaboratorioiden yhteisorganisaatio tai yhden kehittäjän ylivalta.
- Raporttien mukaan Altman vaikutti kannattavan kansainvälistä valvontaelintä ja piti kilpailijat sivuuttavaa kolmatta skenaariota huonona.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Sam Altmanin kerrotaan esitelleen OpenAI:n työntekijöille kolme mahdollista tapaa hallita superälyn kehitystä: kansainvälinen valvontaelin, suuria tekoälylaboratorioita kokoava yhteisorganisaatio tai tilanne, jossa yksi kehittäjä saa niin paljon valtaa, että se voi sulkea kilpailijat ulos. Raporttien mukaan Altman vaikutti suosivan kansainvälistä valvontaa ja piti kolmatta vaihtoehtoa huonona. Kyse oli mahdollisista tulevaisuuden skenaarioista, ei kolmesta OpenAI:ssa päätetystä toimintalinjasta. 1
4
6
Kolme mahdollista mallia
1. Kansainvälinen valvontaelin
Ensimmäinen vaihtoehto olisi Kansainvälisen atomienergiajärjestön (IAEA) kaltainen kansainvälinen elin, joka asettaisi tai valvoisi tekoälyn turvallisuusstandardeja. Raporttien mukaan malliin voisi kuulua kehittyneiden tekoälyjärjestelmien valvontaa sekä tarkastuksia tai auditointeja. 1
4
6
Julkisuudessa olleiden tietojen perusteella ei kuitenkaan voi muodostaa kattavaa kuvaa siitä, millainen toimivalta elimellä olisi. Raportit eivät vahvista kaikkia ehdotukseen liitettyjä yksityiskohtia, kuten laskentatehon ja energiankulutuksen seurantaa, eivätkä osoita, että työntekijöille esitelty keskustelu olisi ollut suora jatko tietylle toukokuussa 2023 tehdylle ehdotukselle.
2. ”Demis-suunnitelma”
Toinen vaihtoehto tunnettiin nimellä ”Demis-suunnitelma”. Siinä suuret tekoälylaboratoriot yhdistyisivät CERNin kaltaiseksi organisaatioksi tai toimisivat yhteisen elimen alaisuudessa. Nimi viittaa Google DeepMindin Demis Hassabisiin. Toimittaja Amir Efrati yhdisti ajatuksen Hassabisiin ja tämän noin vuonna 2017 esittämään ehdotukseen. 5
23
Yhden kuvauksen mukaan yhteisorganisaatio toimittaisi malleja sen kanssa yhteistyötä tekeville maille. 5 Perusajatuksena olisi siis kehittää ja hallita huipputason tekoälyä yhdessä erillisten laboratorioiden välisen kilpailun sijaan.
3. ”Eliezer-suunnitelma”
Kolmas skenaario on nimetty tekoälyn turvallisuutta tutkivan Eliezer Yudkowskyn mukaan. Altmanin keskusteluun liitetyssä versiossa yksi kehittäjä saavuttaa itseään parantavan tekoälyn avulla ratkaisevan etumatkan ja käyttää valtaansa rajoittaakseen kilpailijoiden pääsyä laskentakapasiteettiin. Tätä kuvattiin ilmauksella ”sulattaa kaikkien muiden GPU:t”. Raporttien mukaan Altman torjui tämän vaihtoehdon. 3
5
6
Mitä Yudkowskyn hypoteettinen ajatus tarkoittaa – ja mitä ei?
Nimitys voi sekoittaa keskenään kaksi eri ajatusta. Yudkowskyn vuoden 2022 kirjoitusta käsittelevissä kuvauksissa puhutaan ”ratkaisevasta teosta” (pivotal act): linjassa oleva AGI-järjestelmä estäisi muita rakentamasta linjaamatonta AGI-järjestelmää. 7
10 Tämä ei ole sama skenaario kuin se, että yksi yritys käyttää etumatkaansa kilpailijoiden syrjäyttämiseen.
Erillisen raportin mukaan Yudkowsky täsmensi myöhemmin, ettei hänen esimerkkinsä ”kaikkien GPU:iden polttamisesta” ollut ehdotus. 34 Käytettävissä olevat lähteet eivät kuitenkaan sisällä hänen koko vastaustaan, joten sen kaikkia perusteluja ja rajauksia ei voi tässä rekonstruoida. Olennaista on erottaa toisistaan hypoteettinen yritys estää linjaamattoman AGI:n kehittäminen ja skenaario, jossa yksi kehittäjä pyrkii monopolisoimaan laskentakapasiteetin.
Käytettävissä olevat raportit eivät myöskään osoita, että OpenAI:n työntekijät olisivat tulkinneet ”Eliezer-suunnitelman” piikiksi Anthropicille. Nimeäminen Yudkowskyn mukaan ei itsessään osoita, että Anthropic kannattaisi tällaista mallia tai että nimitys olisi suunnattu yhtiötä vastaan.
Keskeinen kysymys on, kenelle valta keskittyy
Kolme vaihtoehtoa sijoittavat vallan eri paikkoihin: kansainväliselle valvontaelimelle, johtavien laboratorioiden yhteisorganisaatiolle tai yhdelle hallitsevalle kehittäjälle. Raporttien mukaan Altman piti ensimmäistä vaihtoehtoa lupaavimpana ja torjui kolmannen. Keskustelun selkein jännite onkin yhteisen valvonnan ja vallan keskittymisen välillä. 1
4
6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Kolme mahdollista tietä superälyn hallintaan"?
Sam Altmanin kerrotaan esitelleen kolme vaihtoehtoa: kansainvälinen valvonta, suurten tekoälylaboratorioiden yhteisorganisaatio tai yhden kehittäjän ylivalta.
What are the key points to validate first?
Sam Altmanin kerrotaan esitelleen kolme vaihtoehtoa: kansainvälinen valvonta, suurten tekoälylaboratorioiden yhteisorganisaatio tai yhden kehittäjän ylivalta. Raporttien mukaan Altman vaikutti kannattavan kansainvälistä valvontaelintä ja piti kilpailijat sivuuttavaa kolmatta skenaariota huonona.
Sources
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI