AnswersPublished19 sources
Amodei verdedigt Anthropic’s AI-koers, maar kritiek blijft staan
Amodei stelt dat meedoen aan de voorhoede van AI ontwikkeling niet betekent dat Anthropic veiligheid opzijzet. Criticus Nathan Calvin wees onder meer op grote afspraken voor rekenkracht, Claude’s groeiende rol bij AI ontwikkeling en wijzigingen in het veiligheidsbeleid.
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Amodei stelt dat meedoen aan de voorhoede van AI ontwikkeling niet betekent dat Anthropic veiligheid opzijzet.
- Criticus Nathan Calvin wees onder meer op grote afspraken voor rekenkracht, Claude’s groeiende rol bij AI ontwikkeling en wijzigingen in het veiligheidsbeleid.
- Amodei noemde onder meer steun voor Californische AI wetgeving, biologische veiligheidsmaatregelen en uitgestelde bredere toegang tot Mythos modellen.
- Zijn voorbeelden beantwoorden niet volledig de kritiek op afgezwakte afspraken over ontwikkelingspauzes en op de drempel voor overheidsingrijpen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
Anthropic-topman Dario Amodei heeft zich verweerd tegen de kritiek van Nathan Calvin, strategiechef bij de AI-belangenorganisatie Encode. Calvin stelde dat Anthropic steeds krachtigere AI ontwikkelt terwijl het zijn veiligheidsbeloften afzwakt. Amodei verdedigde de keuze om mee te blijven doen aan de ontwikkeling van geavanceerde AI en somde maatregelen op die volgens hem het bedrijf commercieel geld hebben gekost. De centrale vraag bleef echter open: zijn Anthropic’s waarborgen sterk genoeg nu de mogelijkheden van AI-systemen toenemen? 4
5
Waar Calvin vraagtekens bij zette
Calvins kritiek bestond uit negen punten over de vraag of Anthropic’s handelen strookt met zijn uitgesproken veiligheidsdoelen. In berichtgeving over de discussie kwamen onder meer de grote afspraken voor rekenkracht en de groeiende rol van Claude bij AI-ontwikkeling aan bod. Volgens een overzicht leidde Claude in augustus bij 26% van de AI-ontwikkeltaken; in maart was dat nog 0%. 1
9
Ook het Responsible Scaling Policy — Anthropic’s beleid voor veiligheidsmaatregelen naarmate AI-systemen krachtiger worden — was onderwerp van verschil van inzicht. Volgens berichtgeving schrapte een herziening de eenzijdige toezegging om de ontwikkeling onder bepaalde omstandigheden stil te leggen of te vertragen. Amodei verdedigde die wijziging in plaats van haar terug te draaien. 1
3
Calvin bekritiseerde daarnaast een conceptvoorstel voor federale AI-veiligheidsregels. Volgens berichtgeving zou de overheid pas mogen ingrijpen bij een voorzienbaar, acuut risico op meer dan 50 doden of ernstige verwondingen, of op meer dan 1 miljard dollar schade. Het gaat daarbij om voorspelde risico’s die ingrijpen zouden kunnen rechtvaardigen, niet om een eis dat de schade eerst daadwerkelijk moet optreden. Het voorstel was een concept, geen geldende wet. 10
25
Amodei’s pleidooi om aan de voorhoede te blijven
Met zijn idee van een ‘race naar de top’ verwierp Amodei de gedachte dat Anthropic zich uit de ontwikkeling van de krachtigste AI moet terugtrekken om veiligheid serieus te nemen. Volgens hem kan het bedrijf aan de voorhoede blijven werken zonder zijn veiligheidsmissie los te laten. Als onderbouwing wees hij op keuzes waarvan hij zei dat ze het bedrijf commercieel nadeel hadden opgeleverd. 4
9
Hij noemde onder meer steun voor de Californische wet SB 53, strenge maatregelen tegen misbruik van AI voor biologische dreigingen en het uitstellen van bredere toegang tot Mythos-modellen totdat krachtigere cyberbeveiliging was ontwikkeld. Volgens berichtgeving kreeg eerst een beperkte groep partners die aan cyberverdediging werkten toegang; later werd de toegang verruimd. 5
11
Die voorbeelden maken duidelijk hoe Amodei zijn veiligheidsbeleid verdedigde: volgens hem ging het niet alleen om publieke toezeggingen, maar ook om keuzes met praktische en commerciële nadelen. De beschikbare berichtgeving legt echter niet gedetailleerd uit hoe hij onderbouwde dat blijven concurreren aan de top de veiligheidsnormen in de hele sector verhoogt. 4
5
De prijs van beperkingen — en de erkende fouten
Amodei erkende ook dat het beperken of uitstellen van toegang tot geavanceerde AI meer kan kosten dan bedrijfsomzet. Zulke beperkingen kunnen volgens hem ook mogelijke maatschappelijke baten vertragen, bijvoorbeeld vooruitgang in de biologie. 11
Berichten melden dat hij communicatiefouten erkende, maar tegelijk Anthropic’s bredere veiligheidsbeleid en de herziening ervan bleef verdedigen. Hij gaf dus tekortkomingen toe zonder de gekozen koers los te laten. Daarmee bleven belangrijke beleidsvragen onbeantwoord. 4
24
Wat de uitwisseling wel en niet oploste
Amodei bood een tegenargument voor Calvins stelling dat Anthropic veiligheid ondergeschikt maakt aan de concurrentiestrijd: volgens de topman had het bedrijf maatregelen genomen die toegang beperkten of extra waarborgen toevoegden, ondanks mogelijke commerciële nadelen. Maar Calvins zorgen over de afgezwakte afspraken om ontwikkeling stil te leggen en over de voorgestelde beperkingen op overheidsingrijpen verdwenen daarmee niet. 1
3
5
10
De beschikbare berichtgeving vat de discussie samen, maar bevat niet genoeg details om alle punten uit beide negenpuntenlijsten te controleren. De kern van het meningsverschil is wel duidelijk: Amodei verdedigt concurrentie aan de AI-voorhoede naast specifieke veiligheidsmaatregelen; Calvin vraagt of die maatregelen en beleidsbeloften voldoende zijn.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Amodei verdedigt Anthropic’s AI-koers, maar kritiek blijft staan"?
Amodei stelt dat meedoen aan de voorhoede van AI ontwikkeling niet betekent dat Anthropic veiligheid opzijzet.
What are the key points to validate first?
Amodei stelt dat meedoen aan de voorhoede van AI ontwikkeling niet betekent dat Anthropic veiligheid opzijzet. Criticus Nathan Calvin wees onder meer op grote afspraken voor rekenkracht, Claude’s groeiende rol bij AI ontwikkeling en wijzigingen in het veiligheidsbeleid.
What should I do next in practice?
Amodei noemde onder meer steun voor Californische AI wetgeving, biologische veiligheidsmaatregelen en uitgestelde bredere toegang tot Mythos modellen.
Sources
aichatdaily.comDario Amodei defends Anthropic safety record in lengthy reply ...
thenextweb.comDario Amodei says Anthropic held Mythos back for four ... - TNW
cellcog.aiAmodei Answers Nathan Calvin: Anthropic's Two Lists
businessinsider.comDario Amodei spent 2,000 words laying out to a critic on X why Anthropic must persist in the AI ‘race to the top'