JawabanDipublikasikan23 sumber
Accenture dan Anthropic Siapkan US$2 Miliar untuk Pengawas Keamanan AI yang Bekerja dari Dalam
Accenture dan Anthropic masing masing memperkirakan investasi minimal US$1 miliar selama lima tahun, atau sedikitnya US$2 miliar secara gabungan, untuk evaluasi keamanan AI. Unit AI spesialis Accenture, Faculty, akan memimpin evaluator yang menguji, melakukan red teaming, menilai alignment, dan mengetes pengamanan m...
Diterbitkan olehDiedit dengan GPT-5.6 TerraGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Accenture dan Anthropic masing masing memperkirakan investasi minimal US$1 miliar selama lima tahun, atau sedikitnya US$2 miliar secara gabungan, untuk evaluasi keamanan AI.
- Unit AI spesialis Accenture, Faculty, akan memimpin evaluator yang menguji, melakukan red teaming, menilai alignment, dan mengetes pengamanan model Anthropic.
- Kemitraan ini tidak eksklusif. Anthropic menyatakan akan bekerja dengan beberapa evaluator, termasuk menjajaki kerja sama terpisah dengan METR dan organisasi nirlaba lain.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Accenture and Anthropic announce about their partnership to advance AI safety—including each company’s commitment to invest at leas. Article summary: Accenture and Anthropic announced a five-year AI-safety partnership built around independent, embedded evaluation of Anthropic’s frontier models. Each expects to invest at least $1 billion—at least $2 billion combined—to. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Accenture dan Anthropic mengumumkan kemitraan keselamatan AI selama lima tahun yang berfokus pada evaluasi tertanam (embedded evaluation). Dalam model ini, evaluator independen bekerja berdampingan dengan tim internal dan mitra keselamatan Anthropic untuk menelaah model AI frontier—yakni model paling canggih—beserta praktik dan pengamanannya.
Masing-masing perusahaan memperkirakan akan menginvestasikan sedikitnya US$1 miliar dalam lima tahun. Artinya, total komitmen yang diumumkan mencapai setidaknya US$2 miliar. 3
13
Apa yang akan dilakukan evaluator tertanam?
Program ini akan dipimpin oleh Faculty, bisnis AI spesialis milik Accenture. Timnya dijadwalkan mengevaluasi dan melakukan red-teaming terhadap model Anthropic—secara sengaja mencari cara agar sistem gagal atau bertindak tidak semestinya untuk menemukan celah—serta menjalankan penilaian alignment dan menguji pengamanan model. 3
13
Bedanya dengan audit eksternal biasa, evaluasi tertanam dirancang berlangsung terus-menerus. Anthropic menggambarkannya sebagai akses berkelanjutan yang menyerupai akses karyawan, sehingga penilai dari luar dapat memeriksa apakah laboratorium AI tersebut benar-benar menjalankan praktik pelatihan, penerapan, operasional, dan pengamanan yang mereka nyatakan. Bukan sekadar menguji model yang telah selesai sesaat sebelum dirilis. 14
41
Cakupannya karena itu tidak hanya mencakup model, melainkan juga proses di sekeliling pengembangan dan penerapan model. Namun, kedua perusahaan mengakui bahwa evaluasi tertanam masih baru dan banyak rincian operasionalnya belum ditetapkan. 13
Seberapa independen evaluasinya?
Dalam proposal evaluasi tertanam Anthropic yang lebih luas, penilai eksternal akan memperoleh akses yang secara umum sebanding dengan tim penilai risiko internal, termasuk akses ruang kerja dan kesempatan berbicara dengan karyawan. Evaluator juga seharusnya dapat memublikasikan temuan utama mengenai risiko, insiden, praktik, serta tingkat akses mereka tanpa kendali editorial dari Anthropic. 14
41
Tetap ada batasnya. Anthropic menyebut punya kewenangan terbatas untuk menyunting informasi yang sensitif bagi keamanan, dilindungi kerahasiaan hukum, sensitif secara komersial, atau bersifat rahasia milik pihak ketiga. Pertanyaan pentingnya kini adalah bagaimana prinsip tersebut diterjemahkan ke aturan praktis tentang akses, pelaporan, dan pengungkapan hasil. 14
41
Bagian dari gagasan “pace the frontier” Dario Amodei
Anthropic menyebut kemitraan dengan Accenture sebagai langkah awal dalam memenuhi komitmen yang disampaikan CEO Dario Amodei dalam esainya, We Must Pace the Frontier, untuk menempatkan evaluator pihak ketiga di dalam perusahaan. 13
Usulan itu memiliki tiga bagian:
- Evaluator pihak ketiga yang tertanam. Perusahaan AI frontier memberi evaluator independen akses berkelanjutan seperti karyawan untuk memverifikasi praktik keselamatan, menilai jalur pelatihan dan model, serta melaporkan insiden. Anthropic telah berkomitmen menjalankan langkah ini untuk dirinya sendiri.
14
45
- Koordinasi antar-laboratorium AI frontier di negara demokrasi. Kerangka Amodei menyerukan pendekatan bersama yang dapat diverifikasi guna mengurangi insentif memangkas standar keselamatan dalam persaingan teknologi.
21
- Koordinasi global. Usulan tersebut juga membayangkan koordinasi di luar negara demokrasi, sambil mengakui sulitnya verifikasi lintas pemerintah dan perusahaan.
37
Anthropic berpendapat bahwa pemerintah perlu membantu menjadikan evaluasi independen dan transparansi sebagai ekspektasi standar bagi pengembang model frontier, alih-alih semata-mata mengandalkan komitmen sukarela perusahaan. 24
27
Tidak eksklusif untuk Accenture
Perjanjian ini tidak menjadikan Faculty sebagai satu-satunya evaluator eksternal Anthropic. Anthropic menyatakan akan menggunakan beberapa evaluator dan tengah menjajaki kerja sama dengan METR serta evaluator nirlaba lain melalui skema pendanaan terpisah. Accenture pun dapat mengerjakan peran serupa untuk pengembang AI lain. 13
Untuk saat ini, Anthropic akan mendanai pekerjaan Accenture secara langsung karena kebutuhan membangun kapasitas evaluasi dianggap mendesak. Dalam jangka panjang, Anthropic menilai pendanaan bersama atau dana pemerintah dapat lebih mendukung independensi para evaluator. 9
13
Hubungannya dengan kerja sama komersial sebelumnya
Kemitraan keselamatan ini menyusul perluasan hubungan bisnis kedua perusahaan pada Desember 2025. Kesepakatan itu membentuk Accenture Anthropic Business Group dan mencakup rencana pelatihan Claude bagi sekitar 30.000 profesional Accenture. 1
2
Pengumuman terbaru ini berbeda tujuan: fokusnya membangun kemampuan evaluasi berkelanjutan untuk keselamatan model AI frontier. Saham Accenture dilaporkan naik sekitar 6% dalam perdagangan awal setelah jam bursa setelah pengumuman tersebut. 5
Intinya
Nilai US$2 miliar memang mencolok, tetapi inti langkah ini adalah upaya membakukan bentuk pengawasan baru: evaluator dari luar ditempatkan di dalam pengembang AI frontier, dengan akses yang ditujukan lebih dekat ke tim penilai risiko internal ketimbang auditor berkala.
Apakah model ini benar-benar menghasilkan akuntabilitas independen akan bergantung pada ketentuan akhirnya—terutama akses nyata yang diberikan kepada evaluator, kebebasan mereka memublikasikan temuan yang merugikan, serta kesediaan laboratorium AI frontier dan pemerintah lain untuk menerapkan standar serupa. 13
14
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Accenture dan Anthropic Siapkan US$2 Miliar untuk Pengawas Keamanan AI yang Bekerja dari Dalam"?
Accenture dan Anthropic masing masing memperkirakan investasi minimal US$1 miliar selama lima tahun, atau sedikitnya US$2 miliar secara gabungan, untuk evaluasi keamanan AI.
Apa poin penting yang harus divalidasi terlebih dahulu?
Accenture dan Anthropic masing masing memperkirakan investasi minimal US$1 miliar selama lima tahun, atau sedikitnya US$2 miliar secara gabungan, untuk evaluasi keamanan AI. Unit AI spesialis Accenture, Faculty, akan memimpin evaluator yang menguji, melakukan red teaming, menilai alignment, dan mengetes pengamanan model Anthropic.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Kemitraan ini tidak eksklusif. Anthropic menyatakan akan bekerja dengan beberapa evaluator, termasuk menjajaki kerja sama terpisah dengan METR dan organisasi nirlaba lain.