AnswersPublished17 sources
Waarom Jacob Coxon Anthropic verliet — en wat zijn AI-waarschuwing betekent
Jacob Coxon zegt dat hij Anthropic verliet omdat de concurrentiestrijd tussen toonaangevende AI labs de ontwikkeling van zelfverbeterende systemen sneller zou versnellen dan veiligheids en controlemethoden kunnen bijb... Anthropic onderzoeker Evan Hubinger noemt het risico van huidige modellen laag, maar schat perso...
Gepubliceerd doorBewerkt met GPT-5.6 TerraAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Jacob Coxon zegt dat hij Anthropic verliet omdat de concurrentiestrijd tussen toonaangevende AI labs de ontwikkeling van zelfverbeterende systemen sneller zou versnellen dan veiligheids en controlemethoden kunnen bijb...
- Anthropic onderzoeker Evan Hubinger noemt het risico van huidige modellen laag, maar schat persoonlijk de kans dat AI binnen tien jaar alle mensen doodt op meer dan 10%.
- De kwestie is ook een politiek economisch debat: Dario Amodei pleit voor een beheerster tempo en onafhankelijk toezicht, terwijl critici vrezen dat strenge regels vooral de grootste AI labs beschermen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What prompted 27-year-old former Anthropic and OpenAI pretraining researcher Jacob Coxon to resign from Anthropic on September 8—two months. Article summary: Coxon said he resigned because he concluded that the leading labs’ competitive incentives—not merely individual technical failures—were driving them toward increasingly autonomous, self-improving systems before anyone kn. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Jacob Coxon nam ontslag bij Anthropic als protest tegen wat hij ziet als een gevaarlijke dynamiek in de ontwikkeling van geavanceerde AI: bedrijven wedijveren om steeds autonomere, mogelijk zelfverbeterende systemen te bouwen voordat er betrouwbare manieren bestaan om ze onder controle te houden. Coxon, die zegt dat hij bij zowel Anthropic als OpenAI aan pretraining-onderzoek werkte, vindt dat geen van beide bedrijven verantwoord genoeg handelt. 2
3
Volgens Coxon loopt de competitie voor op de controle
In een openbare draad op X beschuldigde Coxon Anthropic en OpenAI ervan „recht op zelfverbeterende superintelligentie af te racen en met ons leven te gokken”. Zijn punt is niet dat de huidige chatbots op eigen houtje op het punt staan de mensheid uit te roeien. Hij waarschuwt voor toekomstige systemen die op uiteenlopende, invloedrijke taken beter kunnen worden dan mensen — bijvoorbeeld bij cyberaanvallen — en macht of middelen kunnen verwerven voordat mensen ze betrouwbaar op menselijke doelen kunnen afstemmen. 3
5
8
Dat onderscheid is wezenlijk. Coxons argument draait vooral om snel groeiende capaciteiten en toezicht: als systemen snel beter worden terwijl veiligheidswerk achterblijft, kan een eventuele mislukking zeer ernstige gevolgen hebben, ook als de huidige modellen nog duidelijke beperkingen kennen.
Waarom hij opstapte
Coxon zei tegen de BBC dat mensen die aan geavanceerde AI werken „oprecht bang” zijn voor de snelheid van de vooruitgang. Zonder vertraging is er volgens hem „een grote kans” dat de mensheid in de nabije toekomst sterft. 1
Een betekenisvolle vertraging kan volgens hem niet worden geregeld door één bedrijf of één land. Een duurzame aanpak vereist internationale afstemming, ook met China, zodat voorzichtiger beleid niet simpelweg tot gevolg heeft dat de meest geavanceerde ontwikkeling elders doorgaat. 1
Zijn vertrek is daarmee vooral een publieke afwijzing van de prikkels rond de ontwikkeling van grensverleggende AI-modellen. Het is geen beschuldiging dat hij bij Anthropic zelf een specifiek veiligheidsincident heeft meegemaakt. De berichtgeving over zijn vertrek beschrijft zijn bredere zorg: een race om systemen te bouwen die bedrijven mogelijk niet meer kunnen beheersen. 2
Hoe andere AI-veiligheidsonderzoekers reageren
Coxons waarschuwing kreeg steun van Evan Hubinger, een onderzoeker bij Anthropic die zich bezighoudt met het afstemmen van AI op menselijke doelen. Hubinger zei dat het risico van bestaande modellen laag is, maar schatte persoonlijk de kans dat AI binnen tien jaar alle mensen doodt op meer dan 10%. 13
Dat cijfer vraagt om nuance. Het is een subjectieve inschatting van een scenario met een kleine kans maar mogelijk enorme gevolgen — geen empirisch bewezen voorspelling. De berichtgeving rond Coxons vertrek laat grote verschillen van inzicht zien over termijnen, waarschijnlijkheden en de juiste waarborgen. Zij vormt geen wetenschappelijke consensus dat menselijke uitsterving nabij is. 13
De directe zorgen: cybermisbruik en snel groeiende capaciteiten
De concrete risico’s in dit debat liggen dichter bij cybermisbruik, gevaarlijke experimenten en steeds capabelere AI-agenten dan bij een filmscenario waarin een AI plotseling zelfstandig de mensheid aanvalt.
Verslagen over de discussie noemen onder meer de mogelijkheid dat geavanceerde modellen kunnen helpen bij digitale inbraken en ander misbruik met grote gevolgen. Ook wordt verwezen naar een vermeend incident rond OpenAI-agenten en Hugging Face. De beschikbare berichtgeving bevat echter onvoldoende primaire details om de precieze omstandigheden, toestemming of reikwijdte daarvan onafhankelijk vast te stellen. 2
63
De praktische les is dat beweringen over toekomstige superintelligentie de beter toetsbare vragen van vandaag niet mogen verdringen: wat kunnen modellen daadwerkelijk, hoe worden zij vóór vrijgave getest, wordt misbruik opgespoord, en wie kan veiligheidsclaims van een lab onafhankelijk controleren?
Amodei wil de grens verleggen in een beheerst tempo
Kort na Coxons waarschuwing pleitte Anthropic-topman Dario Amodei in zijn essay We Must Pace the Frontier voor een langzamer tempo in de verbetering van grensverleggende AI-modellen. Hij roept niet op tot een algemene stop op AI-ontwikkeling, maar tot meer tijd zodat risicobeperking gelijke tred kan houden met snel toenemende capaciteiten. 1
Het gemelde kader omvat:
- onafhankelijke monitoring en evaluatie van grensverleggende modellen;
- gedeelde veiligheidsnormen voor de sector en democratische landen; en
- uiteindelijk internationale samenwerking rond AI-bestuur, inclusief overleg met China.
1
OpenAI-topman Sam Altman steunde publiekelijk de algemene richting en noemde onafhankelijke beoordelaars met toegang vergelijkbaar met die van werknemers een goed idee. Ook Elon Musk sprak steun uit voor Amodeis oproep en schreef: „Dario heeft gelijk.” 1
Waarom critici een probleem voor de concurrentie zien
Veiligheidsvoorstellen van de grootste AI-labs stuiten niet alleen op steun, maar ook op scepsis. Critici, onder wie Hugging Face-topman Clément Delangue, stellen dat vergaande beperkingen voor grensverleggende modellen de bedrijven kunnen bevoordelen die al het meest kapitaalkrachtig zijn en de nalevingskosten het makkelijkst kunnen dragen. 1
3
Die kritiek bewijst niet dat Coxons zorgen onoprecht zijn. Wel stelt zij een aparte vraag: kan veiligheidsregulering reële risico’s verkleinen én tegelijk de macht concentreren bij een kleine groep gevestigde labs?
Dat spanningsveld staat centraal in het debat. Een geloofwaardig systeem van toezicht moet de controle op de krachtigste systemen verbeteren, zonder veiligheidseisen te veranderen in een kunstmatige beschermingswal voor een handvol bedrijven.
De kern
Coxon vertrok omdat hij concludeerde dat de race tussen de leidende AI-bedrijven zelf het gevaar vormt: de prikkel om capaciteit snel op te voeren kan zwaarder wegen dan de tijd die nodig is voor controle, testen en internationale samenwerking. 2
3
Zijn meest dramatische uitspraken blijven omstreden. Ze verwoorden een ernstige zorg die sommige mensen binnen de AI-sector delen, maar vormen geen bewijs dat uitsterving van de mensheid op handen is. De directere beleidsopgave is onafhankelijk verifieerbare waarborgen te creëren voor steeds krachtigere systemen — zonder dat die waarborgen vooral de positie versterken van de bedrijven die ze bouwen. 1
13
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Waarom Jacob Coxon Anthropic verliet — en wat zijn AI-waarschuwing betekent"?
Jacob Coxon zegt dat hij Anthropic verliet omdat de concurrentiestrijd tussen toonaangevende AI labs de ontwikkeling van zelfverbeterende systemen sneller zou versnellen dan veiligheids en controlemethoden kunnen bijb...
What are the key points to validate first?
Jacob Coxon zegt dat hij Anthropic verliet omdat de concurrentiestrijd tussen toonaangevende AI labs de ontwikkeling van zelfverbeterende systemen sneller zou versnellen dan veiligheids en controlemethoden kunnen bijb... Anthropic onderzoeker Evan Hubinger noemt het risico van huidige modellen laag, maar schat persoonlijk de kans dat AI binnen tien jaar alle mensen doodt op meer dan 10%.
What should I do next in practice?
De kwestie is ook een politiek economisch debat: Dario Amodei pleit voor een beheerster tempo en onafhankelijk toezicht, terwijl critici vrezen dat strenge regels vooral de grootste AI labs beschermen.