AnswersPublished11 sources
Miksi David Robinson jätti OpenAI:n?
Robinsonin mukaan tekoälymallien kyvykkyydet kehittyvät nopeammin kuin turvallisuus ja linjaustyö ehtii valmistautua. Hän arvostelee nopeita päivityksiä, kiireistä työkulttuuria ja sitä, ettei yksittäinen julkaisun lykkääminen vielä todista koko prosessin olevan turvallinen.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Robinsonin mukaan tekoälymallien kyvykkyydet kehittyvät nopeammin kuin turvallisuus ja linjaustyö ehtii valmistautua.
- Hän arvostelee nopeita päivityksiä, kiireistä työkulttuuria ja sitä, ettei yksittäinen julkaisun lykkääminen vielä todista koko prosessin olevan turvallinen.
- OpenAI sanoo rajoittavansa malleja sen mukaan, mitä se pystyy hallitsemaan turvallisesti, ja voivansa keskeyttää koulutuksen tai pidättää mallin.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: Why did David Robinson—a Rhodes scholar, Yale Law graduate, former Biden White House adviser, and OpenAI employee since May 2023 who led saf. Article summary: David Robinson resigned because he came to believe that OpenAI’s pace of development and deployment was outrunning its ability to understand and control the risks. His criticism is about the industry’s operating culture,. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
David Robinson lähti OpenAI:sta, koska ei enää uskonut yhtiön tai koko tekoälyalan etenevän riittävän varovaisesti järjestelmien kyvykkyyden kasvaessa. Hänen kritiikkinsä ei kohdistu vain yhteen malliin tai julkaisuun: Robinsonin mielestä kehitystä vauhdittava optimismi ja kiire voivat jättää turvallisuustyön jälkeen teknologiasta, jota sen pitäisi arvioida. OpenAI puolestaan sanoo voivansa rajata mallien kyvykkyyksiä ja pidättää niiden kehitystä, jos turvallisuus sitä vaatii. 1
Robinsonin huoli: kyvykkyydet kasvavat valmiutta nopeammin
Robinson johti OpenAI:n merkittävien mallijulkaisujen yhteydessä julkaistujen turvallisuusraporttien kirjoittamista. Eroilmoituksessaan hän katsoi, ettei ala toimi riittävän varovaisesti. Ongelma ei hänen mukaansa ratkea pelkillä säännöillä tai uusilla laeilla, vaan kyse on myös siitä, millaista toimintakulttuuria yritykset vaalivat. 1
The Ezra Klein Show -ohjelmassa antamassaan haastattelussa Robinson kuvasi, miten hänen arvionsa tekoälyn riskeistä oli muuttunut. Hän ei aiemmin uskonut, että järjestelmistä voisi tulla pohjimmiltaan ihmistä älykkäämpiä. Sittemmin hän alkoi pitää todellisena mahdollisuutena sitä, että tekoäly voisi “ajatella meidät mennen tullen” — eikä turvallisuus- ja linjaustyö hänen mielestään ollut tähän valmiina.
Tämän takia Robinson haluaisi yritysten vahvistavan turvallisuusosaamista, tutkimusta ja suojatoimia ennen uusien kyvykkyyksien kehittämistä, eikä vasta yrittävän kuroa eroa umpeen jälkikäteen. 1
Nopeat päivitykset vaikeuttavat turvallisuustyötä
Robinsonin mukaan turvallisuusarviointien on vaikea pysyä mukana, kun malleja päivitetään usein ja niihin lisätään uusia työkaluja. Hänen huolensa on, että muutokset voivat tuoda mukanaan kyvykkyyksiä ja riskejä, joita aiemmat testit eivät kattaneet. Jos arviointiin jää liian vähän aikaa, mahdolliset ongelmat voivat jäädä huomaamatta. Hän pohtii myös, kuinka luotettavia testitulokset ovat, jos malli tunnistaa olevansa arvioitavana. Nämä ovat Robinsonin esittämiä huolia arviointiprosessista — eivät riippumattomasti vahvistettuja havaintoja jokaisesta OpenAI:n mallista tai julkaisusta. 1
Hän nostaa esiin myös kovan työrytmin ja uupuneet työntekijät. Robinsonin näkemyksen mukaan yhtiö voi varoittaa julkisuudessa tekoälyn riskeistä, vaikka arjen kannustimet suosivat edelleen nopeaa etenemistä. Silloin työntekijöiden voi olla vaikeampi hidastaa, tutkia virheitä tai vaatia lisää valmistelua. 1
Yksittäinen julkaisun lykkääminen ei ratkaise kaikkea
Mallin julkaisematta jättäminen voi osoittaa, että yritys on valmis toimimaan varovaisesti. Robinsonin laajempi kritiikki on kuitenkin se, ettei yksittäinen lykkäys vielä osoita koko kehitysprosessin olevan turvallinen tai suojatoimien pysyvän tulevien kyvykkyyksien tahdissa. Häntä kiinnostaa ennen kaikkea se, onko varovaisuus sisäänrakennettu alan toimintatapaan — ei vain se, toteutuuko jokin yksittäinen julkaisu. 1
OpenAI:n vastaus jättää ydinkysymyksen auki
OpenAI kertoo pyrkivänsä varmistamaan, etteivät sen mallit muutu kyvykkäämmiksi kuin mitä yhtiö pystyy turvallisesti hallitsemaan ja suojaamaan. Yhtiön mukaan se voi tarvittaessa keskeyttää koulutuksen tai pidättää mallin julkaisun.
Robinsonin arvion ja OpenAI:n vastauksen välinen erimielisyys koskee sitä, riittävätkö nykyiset suojatoimet ja päätöksentekotavat tekoälyn kehitysvauhtiin ja tuleviin kyvykkyyksiin. Saatavilla oleva uutisointi esittelee Robinsonin näkemyksen ja OpenAI:n kannan, mutta ei ratkaise riippumattomasti, ovatko yhtiön turvatoimet riittäviä. 1
Robinson kertoi myös palkanneensa viestintätoimiston auttamaan julkisen huomion kanssa. Hän sanoi kuitenkin tehneensä itse päätöksen puhua lähdöstään julkisesti.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Miksi David Robinson jätti OpenAI:n?"?
Robinsonin mukaan tekoälymallien kyvykkyydet kehittyvät nopeammin kuin turvallisuus ja linjaustyö ehtii valmistautua.
What are the key points to validate first?
Robinsonin mukaan tekoälymallien kyvykkyydet kehittyvät nopeammin kuin turvallisuus ja linjaustyö ehtii valmistautua. Hän arvostelee nopeita päivityksiä, kiireistä työkulttuuria ja sitä, ettei yksittäinen julkaisun lykkääminen vielä todista koko prosessin olevan turvallinen.
What should I do next in practice?
OpenAI sanoo rajoittavansa malleja sen mukaan, mitä se pystyy hallitsemaan turvallisesti, ja voivansa keskeyttää koulutuksen tai pidättää mallin.