AnswersPublished19 sources
Amodei, Anthropic’in yapay zekâ yarışında güvenliği geri plana attığı eleştirisine karşı çıktı
Amodei, yapay zekâ geliştirmede ön saflarda kalmanın güvenlikten vazgeçmek anlamına gelmediğini savundu. Nathan Calvin; Anthropic’in büyük hesaplama gücü anlaşmalarını, Claude’un model geliştirmedeki artan rolünü ve güvenlik politikası değişikliklerini eleştirdi.
YayımlayanGPT-6 Luna ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Amodei, yapay zekâ geliştirmede ön saflarda kalmanın güvenlikten vazgeçmek anlamına gelmediğini savundu.
- Nathan Calvin; Anthropic’in büyük hesaplama gücü anlaşmalarını, Claude’un model geliştirmedeki artan rolünü ve güvenlik politikası değişikliklerini eleştirdi.
- Amodei, SB 53’e verdiği desteği, biyolojik kötüye kullanıma karşı önlemleri ve Mythos sınıfı modellere erişimi ertelemesini ticari maliyet taşıyan güvenlik kararları olarak gösterdi.
- Taraflar arasındaki temel anlaşmazlık, Anthropic’in güvenlik önlemlerinin ve kamu müdahalesine ilişkin önerilerinin yeterli olup olmadığı konusunda çözüme kavuşmadı.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
Anthropic CEO’su Dario Amodei, Encode AI’ın strateji yöneticisi Nathan Calvin’in şirketin güvenlik taahhütlerini zayıflatırken daha güçlü yapay zekâ sistemleri geliştirmeye odaklandığı yönündeki eleştirilerine karşı çıktı. Amodei, yapay zekâ geliştirmede öncü konumda kalmanın güvenlik misyonuyla çelişmediğini savundu ve güvenlik amacıyla alındığını, şirkete ticari açıdan maliyet çıkardığını söylediği kararları sıraladı. Ancak bu yanıt, Anthropic’in önlemlerinin ve politika tercihlerinin yeterli olup olmadığı konusundaki anlaşmazlığı gidermedi. 4
5
Calvin’in eleştirilerinin odağında ne vardı?
Calvin’in dokuz maddelik eleştirisi, Anthropic’in attığı adımların şirketin açıkladığı güvenlik ilkeleriyle ne ölçüde örtüştüğünü sorguluyordu. Eleştiriler arasında 500 milyar doları aşan hesaplama gücü anlaşmaları ve Claude’un yapay zekâ geliştirme çalışmalarındaki artan rolü de yer aldı. Bir habere göre Claude, ağustosta yapay zekâ geliştirme görevlerinin yüzde 26’sında öne çıkarken martta bu oran sıfırdı. 1
9
Bir diğer tartışma başlığı, Anthropic’in Sorumlu Ölçeklendirme Politikası’nın (Responsible Scaling Policy) güncellenmesiydi. Haberlere göre değişiklik, belirli koşullar oluştuğunda şirketin geliştirmeyi tek taraflı olarak yavaşlatma ya da durdurma taahhüdünü kaldırdı. Amodei bu değişikliği savundu; yanıtında politikayı eski hâline getirdiğini açıklamadı. 1
3
Calvin ayrıca federal düzeydeki taslak bir yapay zekâ güvenliği önerisini eleştirdi. Haberlerde aktarılan taslağa göre hükümetin bir modeli durdurabilmesi için 50’den fazla kişinin ölmesi veya ağır yaralanması ya da 1 milyar doları aşan zarar doğması yönünde yakın bir risk bulunması gerekecekti. Buradaki eşikler, zararın gerçekleşmesini bekleme şartı değil, müdahaleyi haklı çıkarabilecek öngörülen risk düzeyleri olarak aktarılıyor. Öneri bir taslaktı; yürürlüğe girmiş bir yasa değildi. 10
25
Amodei’nin “yukarı doğru yarış” savı
Amodei’nin “race to the top” —yukarı doğru yarış— çerçevesi, Anthropic’in güvenliği ciddiye almak için öncü yapay zekâ geliştirme çalışmalarından çekilmesi gerektiği fikrine karşı çıkıyordu. Ona göre şirket, bu yarışta yer almayı sürdürürken güvenlik misyonunu da koruyabilirdi. 4
9
Amodei, bu yaklaşımını şirketin ticari açıdan bedel ödediğini söylediği bazı kararlarla destekledi. Bunlar arasında Kaliforniya’nın yapay zekâ güvenliği düzenlemesi SB 53’e destek vermek, biyolojik amaçlarla kötüye kullanım riskine karşı sıkı önlemler uygulamak ve daha güçlü siber güvenlik tedbirleri hazırlanırken Mythos sınıfı modellere genel erişimi ertelemek vardı. Haberlere göre modeller, genel erişim başlamadan önce sınırlı sayıdaki siber savunma ortağına açılmıştı. 5
11
Bu örnekler, Amodei’nin şirketin sicilini nasıl savunduğunu gösteriyor: Güvenlik önlemlerini yalnızca kamuya yönelik taahhütler olarak değil, ticari ödünler içeren tercihler olarak sundu. Ancak mevcut haber özetleri, öncü geliştirme yarışında kalmanın sektör genelinde güvenlik standartlarını nasıl yükselteceğine dair savını ayrıntılarıyla ortaya koymuyor. 4
5
Güvenliğin de bir maliyeti olduğunu kabul etti
Amodei, gelişmiş yapay zekâ yeteneklerine erişimi kısıtlamanın ya da geciktirmenin yalnızca şirket gelirleri açısından maliyet yaratmadığını da kabul etti. Bu sınırlamaların, biyolojideki ilerlemeler gibi kamuya fayda sağlayabilecek gelişmeleri de yavaşlatabileceğini söyledi. 11
Haber özetlerine göre Amodei, bazı iletişim hatalarını kabul ederken Anthropic’in genel sicilini ve güncellenen güvenlik politikasını savunmayı sürdürdü. Eksikleri kabul etmesi, şirketin yaklaşımından geri adım attığı anlamına gelmedi; bu nedenle temel politika soruları açık kaldı. 4
24
Yanıt hangi soruları açıkta bıraktı?
Amodei’nin karşı savı, Anthropic’in rekabeti sürdürmesinin güvenliği ikinci plana attığı anlamına gelmediğiydi. Şirketin erişimi sınırlayan veya güvenlik önlemlerini artıran kararlarının ticari maliyet doğurduğunu öne sürdü. Buna karşılık Calvin’in, geliştirmeyi duraklatma taahhütlerinin zayıfladığına ve hükümet müdahalesi için önerilen eşiğin yüksek olduğuna ilişkin itirazları, bu karar listesiyle ortadan kalkmadı. 1
3
5
10
Eldeki haberler, tarafların açıklamalarını özetliyor; iki dokuz maddelik listenin tamamını doğrulamaya yetecek ayrıntıyı sunmuyor. Bu nedenle en net sonuç, tartışmanın çerçevesi: Amodei seçili güvenlik önlemlerini savunarak öncü yarışta kalmanın mümkün olduğunu ileri sürdü; Calvin ise bu önlemlerin ve politika taahhütlerinin yeterliliğini sorguladı.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Amodei, Anthropic’in yapay zekâ yarışında güvenliği geri plana attığı eleştirisine karşı çıktı"?
Amodei, yapay zekâ geliştirmede ön saflarda kalmanın güvenlikten vazgeçmek anlamına gelmediğini savundu.
What are the key points to validate first?
Amodei, yapay zekâ geliştirmede ön saflarda kalmanın güvenlikten vazgeçmek anlamına gelmediğini savundu. Nathan Calvin; Anthropic’in büyük hesaplama gücü anlaşmalarını, Claude’un model geliştirmedeki artan rolünü ve güvenlik politikası değişikliklerini eleştirdi.
What should I do next in practice?
Amodei, SB 53’e verdiği desteği, biyolojik kötüye kullanıma karşı önlemleri ve Mythos sınıfı modellere erişimi ertelemesini ticari maliyet taşıyan güvenlik kararları olarak gösterdi.
Sources
aichatdaily.comDario Amodei defends Anthropic safety record in lengthy reply ...
thenextweb.comDario Amodei says Anthropic held Mythos back for four ... - TNW
cellcog.aiAmodei Answers Nathan Calvin: Anthropic's Two Lists
businessinsider.comDario Amodei spent 2,000 words laying out to a critic on X why Anthropic must persist in the AI ‘race to the top'