AnswersPublished19 sources
Amodei forsvarer Anthropics AI-kappløp
Dario Amodei mener Anthropic kan konkurrere om de mest avanserte AI modellene uten å gi slipp på sikkerhet. Nathan Calvin kritiserte blant annet selskapets store datakraftavtaler, Claude modellenes økende rolle i utviklingsarbeidet og endringer i Anthropics sikkerhetspolicy.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- Dario Amodei mener Anthropic kan konkurrere om de mest avanserte AI modellene uten å gi slipp på sikkerhet.
- Nathan Calvin kritiserte blant annet selskapets store datakraftavtaler, Claude modellenes økende rolle i utviklingsarbeidet og endringer i Anthropics sikkerhetspolicy.
- Amodei trakk fram tiltak som strengere biologiske sikkerhetsregler og utsatt bred tilgang til Mythos modeller, men svarte ikke ut alle spørsmålene om hvor sterke selskapets forpliktelser er.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
Anthropic-sjef Dario Amodei avviste påstanden om at selskapet setter AI-sikkerhet til side i jakten på stadig kraftigere modeller. I et langt svar til Nathan Calvin, strategisjef i AI-policyorganisasjonen Encode AI, viste Amodei til sikkerhetstiltak han mener har kostet selskapet kommersielt. Uenigheten om hvorvidt tiltakene og selskapets politiske forslag er tilstrekkelige, ble likevel ikke løst. 4
5
Dette kritiserte Calvin
Calvins kritikk tok for seg ni forhold han mente ikke samsvarte med Anthropics uttalte sikkerhetsambisjoner. Blant temaene var selskapets omfattende investeringer i datakraft og Claude-modellenes økende rolle i utviklingen av AI. Ifølge én oppsummering sto Claude bak 26 prosent av AI-utviklingsoppgavene i august, mot ingen i mars. 1
9
Et annet stridspunkt var Anthropics Responsible Scaling Policy, selskapets rammeverk for håndtering av risiko når AI-modellene blir kraftigere. En revidert versjon fjernet ensidige løfter om å sette utviklingen på pause eller bremse den under visse forhold. Amodei forsvarte endringen i svaret sitt, i stedet for å varsle at den skulle gjøres om. 1
3
Calvin kritiserte også et utkast til et føderalt forslag om AI-sikkerhet i USA. Ifølge omtalen ville myndighetene måtte påvise en nært forestående risiko for mer enn 50 dødsfall eller alvorlige personskader, eller tap på over én milliard dollar, for å gripe inn. Dette er terskler for forventet risiko – ikke et krav om å vente til skaden faktisk har skjedd. Forslaget var et utkast, ikke gjeldende lov. 10
25
Amodeis argument: konkurranse og sikkerhet kan gå sammen
Amodeis «race to the top»-argument var at Anthropic ikke trenger å trekke seg fra utviklingen av de mest avanserte AI-modellene for å ta sikkerhet på alvor. Han framstilte det å konkurrere i front som forenlig med selskapets sikkerhetsmål, og viste til valg han mente hadde hatt en kommersiell kostnad. 4
9
Blant eksemplene var støtten til Californias AI-sikkerhetslov SB 53, strenge begrensninger for å hindre biologisk misbruk av AI og utsatt bred tilgang til Mythos-modeller mens sterkere cybersikkerhetstiltak ble utviklet. Modellene skal først ha vært tilgjengelige for en begrenset gruppe samarbeidspartnere innen cyberforsvar, før tilgangen ble utvidet. 5
11
Eksemplene viser hvordan Amodei forsvarte Anthropics sikkerhetsarbeid: Han beskrev tiltakene som reelle avveininger, ikke bare offentlige løfter. Men omtalen gir ikke nok detaljer til å slå fast hvordan han mente at fortsatt konkurranse ved AI-fronten konkret skulle heve sikkerhetsnivået i hele bransjen. 4
5
Han erkjenner også en kostnad
Amodei anerkjente at det å holde tilbake eller begrense tilgang til avanserte AI-modeller kan koste mer enn tapte inntekter for selskapet. Det kan også forsinke mulige samfunnsgevinster, blant annet framgang innen biologi. 11
Han skal dessuten ha erkjent feil i hvordan Anthropic har kommunisert om enkelte spørsmål, samtidig som han forsvarte selskapets overordnede sikkerhetsarbeid og den reviderte policyen. Kritikk ble altså møtt med en innrømmelse av feil, men ikke med et tydelig tilbaketog fra selskapets kurs. 4
24
Striden består
Amodeis svar var et motargument til Calvins påstand om at Anthropics konkurransejag går på bekostning av sikkerheten: Ifølge Amodei har selskapet tatt valg som begrenset tilgang eller innførte strengere vern, også når det kunne ha kommersielle ulemper. Men eksemplene avklarte ikke Calvins bekymring for at selskapets pauseforpliktelser er svekket, eller at terskelen for offentlige inngrep i AI-utkastet er for høy. 1
3
5
10
Omtalen som er tilgjengelig, oppsummerer utvekslingen uten å gjengi nok av begge ni-punktslistene til å kontrollere hvert enkelt punkt. Det tydeligste bildet er derfor selve uenigheten: Amodei forsvarer videre utvikling ved AI-fronten sammen med utvalgte sikkerhetstiltak, mens Calvin spør om tiltakene og forpliktelsene er sterke nok.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Amodei forsvarer Anthropics AI-kappløp"?
Dario Amodei mener Anthropic kan konkurrere om de mest avanserte AI modellene uten å gi slipp på sikkerhet.
What are the key points to validate first?
Dario Amodei mener Anthropic kan konkurrere om de mest avanserte AI modellene uten å gi slipp på sikkerhet. Nathan Calvin kritiserte blant annet selskapets store datakraftavtaler, Claude modellenes økende rolle i utviklingsarbeidet og endringer i Anthropics sikkerhetspolicy.
What should I do next in practice?
Amodei trakk fram tiltak som strengere biologiske sikkerhetsregler og utsatt bred tilgang til Mythos modeller, men svarte ikke ut alle spørsmålene om hvor sterke selskapets forpliktelser er.
Sources
aichatdaily.comDario Amodei defends Anthropic safety record in lengthy reply ...
thenextweb.comDario Amodei says Anthropic held Mythos back for four ... - TNW
cellcog.aiAmodei Answers Nathan Calvin: Anthropic's Two Lists
businessinsider.comDario Amodei spent 2,000 words laying out to a critic on X why Anthropic must persist in the AI ‘race to the top'