AnswersPublished16 sources
Kansainvälinen valvonta, yhteinen AI-laboratorio vai yhden yrityksen ylivalta?
Altmanin kerrotaan hahmotelleen kolme vaihtoehtoa: kansainvälinen AI valvontaelin, suurten laboratorioiden yhteinen organisaatio tai yhden kehittäjän ylivalta. Kansainvälinen valvoja asettaisi turvallisuusstandardeja ja tarkastaisi tehokkaita malleja ennen niiden julkaisua.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Altmanin kerrotaan hahmotelleen kolme vaihtoehtoa: kansainvälinen AI valvontaelin, suurten laboratorioiden yhteinen organisaatio tai yhden kehittäjän ylivalta.
- Kansainvälinen valvoja asettaisi turvallisuusstandardeja ja tarkastaisi tehokkaita malleja ennen niiden julkaisua.
- Kolmannessa, Altmanin kerrotaan vastustaneen skenaariossa yksi yritys voisi rajoittaa kilpailijoiden pääsyä laskentatehoon.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI staff about governing superintelligence through an IAEA-style international watchdog that sets sa. Article summary: Altman reportedly presented three possible ways to govern superintelligence, favoring shared international oversight and rejecting a scenario in which one AI developer becomes powerful enough to suppress its rivals; he r. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
OpenAI:n toimitusjohtaja Sam Altmanin kerrotaan esitelleen yhtiön työntekijöille kolme mahdollista tapaa hallita superälyn kehitystä. Vaihtoehdot ulottuvat kansainvälisestä valvonnasta suurten tekoälylaboratorioiden yhteiseen organisaatioon ja tilanteeseen, jossa yksi yritys saisi ratkaisevan yliotteen kilpailijoistaan. Altmanin kerrotaan vaikuttaneen kannattavan valvontamallia ja kutsuneen kolmatta vaihtoehtoa ”kauheaksi”. 5
10
15
Kyse on uutisoinnista Altmanin työntekijöille esittämistä ajatuksista, ei julkaistusta politiikkaehdotuksesta. Skenaarioiden ydin on siinä, kuka asettaa tekoälyn turvallisuutta koskevat säännöt ja kenelle kertyy valtaa kehittää edistyneimpiä järjestelmiä.
Kolme mallia superälyn hallintaan
1. Kansainvälinen AI-valvoja
Ensimmäinen vaihtoehto olisi perustaa Kansainvälisen atomienergiajärjestön IAEA:n kaltainen kansainvälinen elin. Hallitukset ja tekoäly-yhtiöt asettaisivat turvallisuusstandardeja, ja riippumattomat arvioinnit ja auditoinnit tarkastelisivat tehokkaita malleja ennen niiden julkaisua. 5
Mallin ajatuksena on, etteivät kehittäjät arvioisi järjestelmiensä turvallisuutta yksin: myös yritysten ulkopuolinen taho valvoisi vaatimusten täyttymistä.
2. CERN-tyylinen yhteisorganisaatio
”Demis-suunnitelma” on nimetty Google DeepMindin toimitusjohtajan Demis Hassabiksen mukaan. Siinä suuret tekoälylaboratoriot toimisivat yhteisessä, usean maan organisaatiossa, jonka esikuvana olisi hiukkasfysiikkaan keskittyvä CERN. Raportoidussa mallissa organisaatio kehittäisi tekoälyä siihen osallistuville maille. 5
11
Tämä poikkeaisi ulkopuolisesta valvonnasta: kehitystyö koottaisiin yhteiseen organisaatioon sen sijaan, että erilliset yritykset toimisivat yhteisten sääntöjen alaisina.
3. Yhden kehittäjän ylivalta
”Eliezer-suunnitelma” on nimetty tekoälyn turvallisuutta tutkivan Eliezer Yudkowskyn mukaan. Skenaariossa yksi kehittäjä saavuttaisi niin suuren taloudellisen vallan, että se voisi rajoittaa kilpailijoiden pääsyä laskentatehoon. Uutisoinnissa tätä äärimmäistä asetelmaa kuvataan vertauskuvalla, jossa kilpailijoiden GPU:t ”sulatetaan”. Altmanin kerrotaan vastustaneen tätä vaihtoehtoa. 5
10
Nimi kuvaa raportoitua skenaariota, eikä osoita, että Yudkowsky olisi itse kannattanut juuri tällaista suunnitelmaa. Käytettävissä olevat lähteet eivät myöskään vahvista kaikkia yksityiskohtia siitä, miten yhden yrityksen ylivalta syntyisi.
Valvonta ei ole sama asia kuin yhteiskehitys
Raportoitu mieltymys kansainväliseen valvojaan viittaa siihen, että turvallisuutta koskevat säännöt ja niiden arviointi jaettaisiin laajemmin kuin yksittäisten laboratorioiden kesken. Lähteet eivät kuitenkaan kerro tarkasti, miksi Altman olisi pitänyt tätä mallia parempana kuin CERN-tyylistä yhteisorganisaatiota. 5
15
Ero on käytännöllinen: valvoja asettaisi standardeja ja tarkastaisi kehittäjiä, kun taas yhteislaboratorio kokoaisi kehittäjät samaan organisaatioon. Yhden yrityksen ylivalta puolestaan keskittäisi valtaa sen sijaan, että valvonta jakautuisi.
Miten alan oma standardielin liittyy keskusteluun?
Erillisenä hankkeena OpenAI:n, Googlen ja Anthropicin kerrotaan valmistelevan alan yhteistä elintä edistyneimpien tekoälymallien standardeille. Sen mahdollisiin tehtäviin kuuluisivat riippumattomien arviointien tukeminen sekä yhteisten turvallisuustestausta tai vaaratilanteista raportointia koskevien käytäntöjen kehittäminen. 1
14
Tämä ehdotus ei ole sama kuin kansainvälinen valvontaelin. Kyseessä kuvataan olevan yritysten yhteinen aloite, kun taas Altmanin ensimmäinen skenaario edellyttäisi kansainvälistä elintä. Lähteet eivät osoita, että suunnitellulla alan standardielimellä olisi julkista toimivaltaa tai valvontamalliin liittyviä täytäntöönpanovaltuuksia. 5
14
Kolme vaihtoehtoa kiteyttävät kysymyksen: asetetaanko tekoälyn turvallisuussäännöt ja valvotaanko niiden noudattamista kansainvälisesti, kehitetäänkö edistyneitä malleja yhteisessä organisaatiossa vai annetaanko markkinoiden johtaa tilanteeseen, jossa yksi yritys voi saada ratkaisevan vallan? Altmanin kerrotaan suosineen valvontaa ja torjuneen viimeistä skenaariota, mutta tiedot perustuvat hänen puheistaan tehtyihin uutisraportteihin, eivät viralliseen suunnitelmaan. 5
10
15
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Kansainvälinen valvonta, yhteinen AI-laboratorio vai yhden yrityksen ylivalta?"?
Altmanin kerrotaan hahmotelleen kolme vaihtoehtoa: kansainvälinen AI valvontaelin, suurten laboratorioiden yhteinen organisaatio tai yhden kehittäjän ylivalta.
What are the key points to validate first?
Altmanin kerrotaan hahmotelleen kolme vaihtoehtoa: kansainvälinen AI valvontaelin, suurten laboratorioiden yhteinen organisaatio tai yhden kehittäjän ylivalta. Kansainvälinen valvoja asettaisi turvallisuusstandardeja ja tarkastaisi tehokkaita malleja ennen niiden julkaisua.
What should I do next in practice?
Kolmannessa, Altmanin kerrotaan vastustaneen skenaariossa yksi yritys voisi rajoittaa kilpailijoiden pääsyä laskentatehoon.
Sources
chosun.comOpenAI CEO Sam Altman Proposes Three Measures for Safe AI Development
europesays.comSam Altman warns staff of nightmare scenario where one AI lab melts ...
minutemirror.com.pkOpenAI chief outlines three possible endgames for AI development
firstpost.comSam Altman's three AI safety scenarios range from global oversight to a worst-case outcome: Report