AnswersPublished19 sources
Amodei vastasi kritiikkiin listaamalla Anthropicin kalliita turvallisuustoimia
Amodein mukaan tekoälyn kehityksen kärjessä pysyminen voi sopia yhteen turvallisuustyön kanssa. Hän nosti esiin muun muassa Kalifornian SB 53 lain tukemisen, biologisten riskien suojatoimet ja Mythos mallien laajemman julkaisun lykkäämisen.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Amodein mukaan tekoälyn kehityksen kärjessä pysyminen voi sopia yhteen turvallisuustyön kanssa.
- Hän nosti esiin muun muassa Kalifornian SB 53 lain tukemisen, biologisten riskien suojatoimet ja Mythos mallien laajemman julkaisun lykkäämisen.
- Calvinin kritiikki yhtiön turvallisuuspolitiikan muutoksista ja viranomaisten puuttumiskynnyksestä jäi vastausten jälkeenkin voimaan.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
Anthropicin toimitusjohtaja Dario Amodei torjui väitteen, että yhtiö kiihdyttäisi kohti yhä tehokkaampaa tekoälyä turvallisuuden kustannuksella. Vastauksessaan Encode AI:n strategiajohtajalle Nathan Calvinille hän puolusti kilpailua tekoälyn kehityksen kärjessä ja listasi toimia, joiden hän sanoi aiheuttaneen yhtiölle kaupallisia kustannuksia. Kiistan ydinkysymys jäi silti auki: ovatko Anthropicin suojatoimet ja poliittiset linjaukset riittäviä sen kyvykkyyksien kasvaessa? 4
5
Mitä Calvin arvosteli?
Calvinin yhdeksän kohdan kritiikki kyseenalaisti, vastaavatko Anthropicin teot sen julkilausuttuja turvallisuussitoumuksia. Yhtenä esimerkkinä hän nosti esiin yhtiön mittavat laskentatehoresurssien sopimukset. Arvioiden mukaan Claudea käytettiin elokuussa 26 prosentissa tekoälyn kehitystehtävistä, kun maaliskuussa osuus oli nolla. 1
9
Erimielisyyttä herätti myös Anthropicin Responsible Scaling Policy -turvallisuuspolitiikan uudistus. Raporttien mukaan muutoksessa poistui yhtiön yksipuolinen sitoumus keskeyttää tai hidastaa kehitystä tietyissä tilanteissa. Amodei puolusti muutosta vastauksessaan eikä ilmoittanut peruvansa sitä. 1
3
Calvin kritisoi myös yhtiön luonnostelemaa liittovaltion tekoälyn turvallisuusesitystä. Raporttien mukaan luonnoksessa viranomaisten puuttumisen kynnys olisi ollut korkea: edellytyksenä olisi välitön riski, joka voisi johtaa yli 50 ihmisen kuolemaan tai vakavaan loukkaantumiseen tai yli miljardin dollarin vahinkoihin. Kyse oli arvioiduista riskeistä, joiden perusteella viranomaiset voisivat puuttua asiaan — ei vaatimuksesta odottaa vahinkojen toteutumista. Luonnos ei ollut voimassa oleva laki. 10
25
Amodein perustelu: pysyminen kehityksen kärjessä
Amodein ”kilpa kohti parempaa” -ajattelussa Anthropicin ei tarvitse vetäytyä tehokkaimpien tekoälymallien kehittämisestä voidakseen suhtautua turvallisuuteen vakavasti. Hän puolusti yhtiön mukanaoloa kehityksen kärjessä ja vetosi päätöksiin, joiden hän sanoi rajoittaneen kaupallisia mahdollisuuksia. 4
9
Hänen esimerkkeihinsä kuuluivat Kalifornian SB 53 -turvallisuuslain tukeminen, tiukat suojaukset tekoälyn biologiseen väärinkäyttöön sekä Mythos-luokan mallien laajemman saatavuuden lykkääminen kyberturvallisuussuojien vahvistamisen ajaksi. Raporttien mukaan mallit olivat ensin rajatun kyberpuolustuskumppanien joukon käytössä, ennen kuin niiden saatavuutta laajennettiin. 5
11
Esimerkeillä Amodei perusteli, että turvallisuustoimet olivat hänen mukaansa todellisia valintoja ja kompromisseja, eivät vain julkisia lupauksia. Käytettävissä olevat raportit eivät kuitenkaan kuvaa riittävän tarkasti, miten hän osoitti kehityksen kärjessä pysymisen nostavan koko alan turvallisuustasoa. 4
5
Turvallisuudella voi olla myös muita kustannuksia
Amodei myönsi, että kehittyneiden mallien käytön rajoittamisesta tai lykkäämisestä voi koitua haittaa muillekin kuin yrityksen liiketoiminnalle. Hän sanoi, että rajoitukset voivat hidastaa tekoälyn mahdollisia hyötyjä esimerkiksi biologiassa. 11
Raporttien mukaan Amodei tunnusti myös viestinnällisiä virheitä mutta puolusti samalla Anthropicin toimintatapaa ja uudistettua turvallisuuspolitiikkaa. Hän siis myönsi puutteita perääntymättä yhtiön yleisestä linjasta. 4
24
Mitä väittely ratkaisi — ja mitä ei?
Amodein vastauksen ydin oli, ettei kova kilpailu välttämättä tarkoita turvallisuuden sivuuttamista: hänen mukaansa Anthropic oli tehnyt päätöksiä, jotka rajoittivat mallien käyttöä tai lisäsivät suojauksia kaupallisista haitoista huolimatta. Calvinin huoli turvallisuuspolitiikan heikentyneistä keskeytyssitoumuksista ja luonnoksen korkeasta viranomaispuuttumisen kynnyksestä ei kuitenkaan poistunut näiden esimerkkien myötä. 1
3
5
10
Saatavilla olevat raportit tiivistävät keskustelua eivätkä esittele riittävästi kummankin osapuolen koko yhdeksän kohdan listaa, jotta jokaisen väitteen voisi tarkistaa. Selvintä on, mistä erimielisyydessä on kyse: Amodei puolustaa kilpailua tekoälyn kehityksen kärjessä ja nostaa esiin valikoituja turvallisuustoimia, kun taas Calvin kysyy, ovatko toimet ja poliittiset sitoumukset tarpeeksi vahvoja.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Amodei vastasi kritiikkiin listaamalla Anthropicin kalliita turvallisuustoimia"?
Amodein mukaan tekoälyn kehityksen kärjessä pysyminen voi sopia yhteen turvallisuustyön kanssa.
What are the key points to validate first?
Amodein mukaan tekoälyn kehityksen kärjessä pysyminen voi sopia yhteen turvallisuustyön kanssa. Hän nosti esiin muun muassa Kalifornian SB 53 lain tukemisen, biologisten riskien suojatoimet ja Mythos mallien laajemman julkaisun lykkäämisen.
What should I do next in practice?
Calvinin kritiikki yhtiön turvallisuuspolitiikan muutoksista ja viranomaisten puuttumiskynnyksestä jäi vastausten jälkeenkin voimaan.
Sources
aichatdaily.comDario Amodei defends Anthropic safety record in lengthy reply ...
thenextweb.comDario Amodei says Anthropic held Mythos back for four ... - TNW
cellcog.aiAmodei Answers Nathan Calvin: Anthropic's Two Lists
businessinsider.comDario Amodei spent 2,000 words laying out to a critic on X why Anthropic must persist in the AI ‘race to the top'