AnswersPublished11 sources
Hvorfor David Robinson forlot OpenAI – og advarte om sikkerhetskulturen
David Robinson sier han sluttet fordi utviklingen av KI går raskere enn sikkerhets og tilpasningsarbeidet. Han mener hyppige modelloppdateringer, nye verktøy og høyt arbeidspress gjør det vanskeligere å teste grundig.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- David Robinson sier han sluttet fordi utviklingen av KI går raskere enn sikkerhets og tilpasningsarbeidet.
- Han mener hyppige modelloppdateringer, nye verktøy og høyt arbeidspress gjør det vanskeligere å teste grundig.
- OpenAI sier selskapet begrenser hva modellene får gjøre, og kan sette utvikling på pause eller holde tilbake modeller.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: Why did David Robinson—a Rhodes scholar, Yale Law graduate, former Biden White House adviser, and OpenAI employee since May 2023 who led saf. Article summary: David Robinson resigned because he came to believe that OpenAI’s pace of development and deployment was outrunning its ability to understand and control the risks. His criticism is about the industry’s operating culture,. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
David Robinson sier han forlot OpenAI fordi han ikke lenger stolte på at selskapet – eller KI-bransjen som helhet – gikk forsiktig nok fram etter hvert som systemene ble mer kapable. Kritikken hans handler ikke bare om én modell eller lansering. Han mener en kultur preget av høyt tempo og sterk optimisme kan føre til at sikkerhetsarbeidet blir hengende etter teknologien det skal vurdere. OpenAI sier på sin side at selskapet kan begrense modellene og bremse utviklingen når sikkerheten krever det. 1
Robinson ledet arbeidet med sikkerhetsrapporter som ble publisert i forbindelse med større OpenAI-lanseringer. I essayet der han forklarte hvorfor han sluttet, skrev han at KI-selskapene ikke er forsiktige nok. Han framstilte utfordringen som et spørsmål om kultur, ikke bare om regler eller regulering. 1
I et intervju etter at han sluttet, fortalte han at synet hans på risikoen hadde endret seg. Han hadde ikke ventet at KI-systemer skulle bli grunnleggende smartere enn mennesker, men kom etter hvert til å se for seg systemer som kunne «tenke ringer rundt oss». Slik han vurderer det, er ikke sikkerhets- og tilpasningsarbeidet klart for en slik utvikling.
Når sikkerhetstestene ikke holder tritt
Robinsons hovedinnvending er at sikkerhetsarbeidet må komme før videre kapasitetsøkning – ikke først etterpå. Han mener selskapene bør bygge opp mer sikkerhetskompetanse, forskning og bedre vern før de presser grensene for hva modellene kan gjøre. 1
Han er også bekymret for hvor vanskelig det er å teste modeller når utviklingen skjer fort. Sikkerhetsvurderinger som er lagt opp rundt større, mer avgrensede treningsløp, kan få problemer med å holde følge når modeller oppdateres hyppig og kobles til nye verktøy. Robinson beskriver dette som at det kan komme «ny kapasitet og risiko hver tirsdag». Hvis modellen endres mellom større evalueringer, kan tidligere tester overse nye problemer.
Han stiller dessuten spørsmål ved hvor pålitelige testresultatene er dersom en modell kan forstå at den blir evaluert. Dette er Robinsons bekymringer om hvordan vurderingene gjennomføres – ikke dokumenterte funn om hver enkelt OpenAI-modell eller lansering. 1
Offentlige advarsler, høyt tempo på innsiden
Robinson mener det er en motsetning mellom å advare offentlig om KI-risiko og samtidig fortsette med raske utrullinger uten nok tid til å undersøke svakheter. Han peker også på hektiske arbeidsforhold og ansatte som er utslitte. Slik han ser det, kan presset for å komme videre gjøre det vanskeligere å stanse opp, undersøke feil eller be om mer tid og forberedelser. 1
En pause i en modell-lansering kan vise at et selskap er villig til å være forsiktig. Men Robinsons bredere poeng er at én utsettelse ikke i seg selv beviser at utviklingsprosessen som helhet er trygg, eller at sikkerhetstiltakene vil holde tritt med framtidige modeller. Han er opptatt av om forsiktighet er bygd inn i måten bransjen arbeider på – ikke bare av om én bestemt lansering blir utsatt. 1
OpenAIs svar
OpenAI sier selskapet arbeider for at modellene ikke skal bli mer kapable enn det selskapet kan håndtere og sikre på en trygg måte. Selskapet sier også at det kan sette trening på pause eller holde modeller tilbake når det er nødvendig.
Dermed står to vurderinger mot hverandre: Robinson mener utviklingstempoet og bransjekulturen kan løpe fra sikkerhetsarbeidet, mens OpenAI sier selskapet har grenser og kan bremse. Kildene presenterer Robinsons kritikk og OpenAIs svar, men avgjør ikke uavhengig om sikkerhetstiltakene er tilstrekkelige. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Hvorfor David Robinson forlot OpenAI – og advarte om sikkerhetskulturen"?
David Robinson sier han sluttet fordi utviklingen av KI går raskere enn sikkerhets og tilpasningsarbeidet.
What are the key points to validate first?
David Robinson sier han sluttet fordi utviklingen av KI går raskere enn sikkerhets og tilpasningsarbeidet. Han mener hyppige modelloppdateringer, nye verktøy og høyt arbeidspress gjør det vanskeligere å teste grundig.
What should I do next in practice?
OpenAI sier selskapet begrenser hva modellene får gjøre, og kan sette utvikling på pause eller holde tilbake modeller.