AnswersPublished23 sources
Accenture dan Anthropic komited AS$2 bilion untuk penilai keselamatan AI terbina dalam
Accenture dan Anthropic masing masing menjangka melabur sekurang kurangnya AS$1 bilion dalam tempoh lima tahun, menjadikan komitmen keseluruhan sekurang kurangnya AS$2 bilion. Faculty, perniagaan AI khusus Accenture, akan mengetuai penilai terbina dalam untuk menilai, melakukan red teaming, menguji penjajaran dan pe...
Diterbitkan olehDisunting dengan GPT-5.6 TerraImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Accenture dan Anthropic masing masing menjangka melabur sekurang kurangnya AS$1 bilion dalam tempoh lima tahun, menjadikan komitmen keseluruhan sekurang kurangnya AS$2 bilion.
- Faculty, perniagaan AI khusus Accenture, akan mengetuai penilai terbina dalam untuk menilai, melakukan red teaming, menguji penjajaran dan perlindungan model AI Anthropic.
- Kerjasama ini tidak eksklusif: Anthropic berkata ia merancang menggunakan beberapa penilai, termasuk meneroka kerja berasingan dengan METR dan organisasi bukan untung lain.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Accenture and Anthropic announce about their partnership to advance AI safety—including each company’s commitment to invest at leas. Article summary: Accenture and Anthropic announced a five-year AI-safety partnership built around independent, embedded evaluation of Anthropic’s frontier models. Each expects to invest at least $1 billion—at least $2 billion combined—to. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Accenture dan Anthropic mengumumkan kerjasama keselamatan AI selama lima tahun yang memberi tumpuan kepada penilaian terbina dalam (embedded evaluation). Dalam model ini, penilai luar bekerja rapat bersama pasukan Anthropic untuk meneliti model AI barisan hadapan, amalan keselamatan serta perlindungan yang digunakan. Kedua-dua syarikat menjangka melabur sekurang-kurangnya AS$1 bilion seorang dalam tempoh lima tahun, iaitu sekurang-kurangnya AS$2 bilion secara keseluruhan. 3
13
Apa yang akan dilakukan oleh pasukan penilai
Program ini akan diketuai oleh Faculty, perniagaan AI khusus Accenture. Pasukan tersebut dijangka menilai dan menjalankan red-teaming terhadap model Anthropic — iaitu cubaan sengaja untuk mendedahkan kegagalan atau kelemahan sistem — di samping menjalankan penilaian penjajaran (alignment) dan menguji perlindungan model. Mereka akan bekerja bersama pasukan dalaman serta rakan keselamatan Anthropic. 3
13
Matlamatnya ialah menjadikan penilaian suatu proses yang berterusan, bukan audit luaran sekali-sekala sebelum sesebuah model dilancarkan. Menurut pendekatan Anthropic, penilai terbina dalam sepatutnya mempunyai akses berterusan yang menyerupai akses kakitangan untuk menyemak sama ada makmal AI itu benar-benar mematuhi amalan latihan, pelaksanaan, operasi dan perlindungan yang didakwanya. Skopnya bukan sekadar menguji model siap. 14
41
Namun, syarikat-syarikat berkenaan turut mengakui bahawa penilaian terbina dalam masih baharu dan banyak butiran operasi belum dimuktamadkan. 13
Sejauh mana bebasnya penilai ini?
Cadangan lebih luas Anthropic membayangkan penilai pihak ketiga menerima akses yang secara umum setanding dengan pasukan penilaian risiko dalaman, termasuk akses ruang kerja dan peluang bercakap dengan pekerja. Penilai juga dicadangkan mempunyai hak untuk menerbitkan dapatan penting mengenai risiko, insiden, amalan dan tahap akses mereka tanpa kawalan editorial daripada Anthropic. 14
41
Kebebasan itu tetap mempunyai had. Anthropic menyatakan ia akan mengekalkan kuasa terhad untuk menyunting maklumat yang sensitif dari sudut keselamatan, dilindungi keistimewaan undang-undang, sensitif secara komersial atau sulit milik pihak ketiga. Persoalan utama yang masih belum terjawab ialah bagaimana prinsip ini akan diterjemahkan kepada peraturan akses, pelaporan dan pendedahan yang sebenar. 14
41
Kedudukan kerjasama ini dalam pelan Dario Amodei
Anthropic menyifatkan kerjasama dengan Accenture sebagai langkah awal untuk memenuhi komitmen dalam esei Ketua Pegawai Eksekutifnya, Dario Amodei, bertajuk We Must Pace the Frontier, untuk menempatkan penilai pihak ketiga dalam syarikat itu. 13
Pelan tersebut mempunyai tiga komponen:
- Penilai pihak ketiga terbina dalam. Syarikat AI barisan hadapan akan memberi penilai bebas akses berterusan seperti kakitangan untuk mengesahkan amalan keselamatan, menilai saluran latihan dan model, serta melaporkan insiden. Anthropic telah berjanji melaksanakan langkah ini untuk dirinya sendiri.
14
45
- Penyelarasan antara makmal AI barisan hadapan di negara demokrasi. Rangka kerja Amodei menyeru pendekatan bersama yang boleh disahkan, bagi mengurangkan dorongan untuk mengabaikan keselamatan dalam persaingan sengit.
21
- Penyelarasan global. Cadangan itu juga membayangkan penyelarasan merentas negara, sambil mengakui kesukaran mengesahkan pematuhan antara kerajaan dan syarikat.
37
Anthropic berhujah bahawa kerajaan patut membantu menjadikan penilaian bebas dan ketelusan sebagai jangkaan standard untuk pembangun model AI barisan hadapan, bukan bergantung pada komitmen sukarela syarikat semata-mata. 24
27
Bukan penilai tunggal
Perjanjian dengan Accenture tidak bermaksud Faculty akan menjadi satu-satunya penilai luar Anthropic. Anthropic berkata ia menjangka menggunakan beberapa penilai dan sedang meneroka kerjasama dengan METR serta penilai bukan untung lain menerusi aturan pembiayaan berasingan. Accenture pula boleh melakukan kerja seumpama itu untuk pembangun AI lain. 13
Buat masa ini, Anthropic menyatakan ia akan membiayai kerja Accenture secara langsung kerana keperluan mendesak untuk membina kapasiti penilaian. Namun, syarikat itu berpandangan bahawa pembiayaan terkumpul atau pembiayaan kerajaan mungkin lebih sesuai untuk menyokong kebebasan penilai dalam jangka panjang. 9
13
Susulan kepada perjanjian komersial terdahulu
Kerjasama keselamatan ini menyusuli pengembangan hubungan perusahaan kedua-dua syarikat pada Disember 2025. Perjanjian terdahulu itu menubuhkan Accenture Anthropic Business Group dan merangkumi rancangan melatih kira-kira 30,000 profesional Accenture menggunakan Claude, model AI Anthropic. 1
2
Tujuan pengumuman baharu ini berbeza: ia bertujuan membina keupayaan penilaian keselamatan berterusan untuk model AI barisan hadapan. Saham Accenture dilaporkan naik kira-kira 6% dalam dagangan awal selepas waktu pasaran susulan pengumuman itu. 5
Perkara utama
Angka AS$2 bilion memang besar, tetapi perubahan yang lebih penting ialah cubaan membentuk mekanisme pengawasan baharu: penilai luar ditempatkan dalam pembangun AI barisan hadapan dengan akses yang dirancang lebih dekat kepada pasukan risiko dalaman berbanding juruaudit berkala.
Sama ada model ini benar-benar menghasilkan akauntabiliti bebas akan bergantung pada syarat akhirnya — khususnya akses sebenar penilai, kebolehan mereka menerbitkan dapatan yang tidak memihak kepada syarikat, dan sama ada makmal AI serta kerajaan lain menerima pakai keperluan setanding. 13
14
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Accenture dan Anthropic komited AS$2 bilion untuk penilai keselamatan AI terbina dalam"?
Accenture dan Anthropic masing masing menjangka melabur sekurang kurangnya AS$1 bilion dalam tempoh lima tahun, menjadikan komitmen keseluruhan sekurang kurangnya AS$2 bilion.
What are the key points to validate first?
Accenture dan Anthropic masing masing menjangka melabur sekurang kurangnya AS$1 bilion dalam tempoh lima tahun, menjadikan komitmen keseluruhan sekurang kurangnya AS$2 bilion. Faculty, perniagaan AI khusus Accenture, akan mengetuai penilai terbina dalam untuk menilai, melakukan red teaming, menguji penjajaran dan perlindungan model AI Anthropic.
What should I do next in practice?
Kerjasama ini tidak eksklusif: Anthropic berkata ia merancang menggunakan beberapa penilai, termasuk meneroka kerja berasingan dengan METR dan organisasi bukan untung lain.