JawabanDipublikasikan19 sumber
Dario Amodei Membela Strategi AI Anthropic di Tengah Kritik soal Keselamatan
Amodei menolak anggapan bahwa persaingan mengembangkan AI paling canggih otomatis berarti Anthropic mengabaikan keselamatan. Nathan Calvin menyoroti komitmen komputasi Anthropic, meningkatnya peran Claude dalam pengembangan AI, serta perubahan kebijakan keselamatan perusahaan.
Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Amodei menolak anggapan bahwa persaingan mengembangkan AI paling canggih otomatis berarti Anthropic mengabaikan keselamatan.
- Nathan Calvin menyoroti komitmen komputasi Anthropic, meningkatnya peran Claude dalam pengembangan AI, serta perubahan kebijakan keselamatan perusahaan.
- Amodei menyebut sejumlah langkah pengamanan yang diklaim membawa konsekuensi komersial, tetapi perdebatan tentang komitmen jeda pengembangan dan aturan pemerintah belum selesai.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
CEO Anthropic Dario Amodei menanggapi kritik Nathan Calvin, kepala strategi Encode AI, yang menilai perusahaan terus mengejar AI lebih canggih sembari melonggarkan komitmen keselamatannya. Amodei membela pilihan Anthropic untuk tetap bersaing di garis depan pengembangan AI dan mengajukan langkah-langkah pengamanan yang, menurutnya, membawa biaya komersial. Namun, tanggapan itu belum menyelesaikan perbedaan pendapat utama: apakah perlindungan dan kebijakan Anthropic cukup kuat ketika kemampuan AI terus berkembang. 4
5
Kritik Calvin terhadap Anthropic
Calvin mempertanyakan apakah tindakan Anthropic sejalan dengan komitmen keselamatan yang dinyatakan perusahaan. Ia menyoroti, antara lain, kesepakatan komputasi bernilai lebih dari US$500 miliar serta makin besarnya peran Claude dalam pengembangan AI. Salah satu laporan menyebut Claude menangani 26% tugas pengembangan AI pada Agustus, naik dari 0% pada Maret. 9
25
Kebijakan Responsible Scaling Policy (RSP)—kerangka Anthropic untuk mengelola risiko seiring meningkatnya kemampuan model—juga menjadi sumber perselisihan. Menurut laporan, revisi RSP menghapus komitmen untuk secara sepihak menghentikan atau memperlambat pengembangan dalam kondisi tertentu. Amodei membela perubahan itu, alih-alih mengumumkan bahwa kebijakan tersebut akan dikembalikan. 1
3
Calvin turut mengkritik rancangan aturan keselamatan AI federal yang dikaitkan dengan Anthropic. Sejumlah laporan menyebut rancangan itu menetapkan ambang tinggi bagi intervensi pemerintah: risiko yang diperkirakan segera terjadi berupa lebih dari 50 kematian atau cedera serius, atau kerugian di atas US$1 miliar. Ambang tersebut merujuk pada risiko yang diperkirakan dapat menjadi dasar intervensi—bukan keharusan menunggu sampai dampaknya benar-benar terjadi. Rancangan itu belum menjadi undang-undang. 10
25
Alasan Amodei ingin Anthropic tetap bersaing
Amodei menyebut pendekatan Anthropic sebagai “race to the top”—persaingan untuk terus berada di garis depan AI. Ia menolak anggapan bahwa perusahaan harus mundur dari pengembangan AI terdepan agar dapat serius soal keselamatan. Sebagai pembelaan, ia mengangkat sejumlah keputusan yang, menurutnya, menimbulkan konsekuensi komersial bagi Anthropic. 4
9
Contoh yang diberitakan mencakup dukungan terhadap SB 53, undang-undang keselamatan AI di California; pembatasan ketat untuk mencegah penyalahgunaan AI dalam biologi; serta penundaan akses yang lebih luas terhadap model kelas Mythos sampai perlindungan keamanan siber diperkuat. Sebelum akses diperluas, model tersebut tersedia bagi kelompok terbatas yang bekerja di bidang pertahanan siber. 5
11
Dengan contoh-contoh itu, Amodei menggambarkan keselamatan sebagai pilihan yang dapat membawa konsekuensi nyata, bukan sekadar pernyataan publik. Namun, laporan yang tersedia tidak menjabarkan secara rinci bagaimana ia berpendapat bahwa tetap berada di garis depan akan mendorong standar keselamatan seluruh industri. 4
5
Mengakui dampak pembatasan dan kekeliruan
Amodei juga mengakui bahwa menahan atau membatasi akses ke kemampuan AI canggih dapat menimbulkan biaya di luar pendapatan perusahaan. Pembatasan semacam itu, katanya, berpotensi memperlambat manfaat bagi masyarakat, termasuk kemajuan di bidang biologi. 11
Laporan menyebut Amodei mengakui adanya kekeliruan dalam komunikasi, tetapi tetap membela rekam jejak Anthropic secara umum dan revisi kebijakan keselamatannya. Mengakui kekurangan tanpa mengubah pendekatan perusahaan membuat pertanyaan kebijakan yang mendasari kritik Calvin tetap terbuka. 4
24
Perdebatan yang belum selesai
Jawaban Amodei menawarkan sanggahan terhadap tuduhan bahwa dorongan Anthropic untuk bersaing membuat keselamatan tersisih: ia mengatakan perusahaan telah memilih sejumlah pembatasan dan perlindungan meski ada konsekuensi komersial. Namun, daftar itu tidak menghapus keberatan Calvin tentang kuat atau tidaknya komitmen untuk menghentikan sementara pengembangan maupun tentang batas intervensi pemerintah dalam rancangan aturan federal. 1
3
5
10
Laporan yang tersedia merangkum pertukaran pendapat tersebut, tetapi tidak memuat kedua daftar secara lengkap untuk memverifikasi setiap butirnya. Inti perbedaannya lebih jelas: Amodei membela persaingan di garis depan yang disertai langkah keselamatan tertentu, sementara Calvin mempertanyakan apakah langkah dan komitmen kebijakan itu memadai.
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Dario Amodei Membela Strategi AI Anthropic di Tengah Kritik soal Keselamatan"?
Amodei menolak anggapan bahwa persaingan mengembangkan AI paling canggih otomatis berarti Anthropic mengabaikan keselamatan.
Apa poin penting yang harus divalidasi terlebih dahulu?
Amodei menolak anggapan bahwa persaingan mengembangkan AI paling canggih otomatis berarti Anthropic mengabaikan keselamatan. Nathan Calvin menyoroti komitmen komputasi Anthropic, meningkatnya peran Claude dalam pengembangan AI, serta perubahan kebijakan keselamatan perusahaan.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Amodei menyebut sejumlah langkah pengamanan yang diklaim membawa konsekuensi komersial, tetapi perdebatan tentang komitmen jeda pengembangan dan aturan pemerintah belum selesai.
Sumber
aichatdaily.comDario Amodei defends Anthropic safety record in lengthy reply ...
thenextweb.comDario Amodei says Anthropic held Mythos back for four ... - TNW
businessinsider.comDario Amodei spent 2,000 words laying out to a critic on X why Anthropic must persist in the AI ‘race to the top'
ababnews.comAnthropic CEO Dario Amodei Responds to Safety Organization's Concerns