JawabanDipublikasikan24 sumber
Claude Membuktikan 239 Target Fuzz Bebas Crash—tetapi Bukan Berarti Bebas Bug
Claude menghasilkan bukti yang diperiksa mesin untuk 239 titik masuk pengujian fuzz di 123 pustaka sumber terbuka. Bukti berlaku untuk input di bawah 64 MB pada program RISC V yang diuji dalam lingkungan Linux yang dimodelkan—bukan untuk semua versi dan konfigurasi.
Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Claude menghasilkan bukti yang diperiksa mesin untuk 239 titik masuk pengujian fuzz di 123 pustaka sumber terbuka.
- Bukti berlaku untuk input di bawah 64 MB pada program RISC V yang diuji dalam lingkungan Linux yang dimodelkan—bukan untuk semua versi dan konfigurasi.
- Rocq memeriksa bukti secara mekanis, tetapi pengujian tetap diperlukan karena jaminan hanya mencakup sifat dan kondisi yang dirumuskan.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Anthropic’s Frontier Red Team and formal-methods partner Theorem report in their October 22, 2026 research about Claude’s assembly-. Article summary: Anthropic’s Frontier Red Team and Theorem reported that Claude produced machine-checked, assembly-level crash-freedom proofs for 239 fuzz-test entry points across 123 open-source libraries—not that the libraries were uni. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
Anthropic dan mitra metode formalnya, Theorem, melaporkan bahwa Claude menghasilkan bukti yang diperiksa mesin untuk 239 titik masuk uji fuzz di 123 pustaka sumber terbuka. Bukti itu mencakup sifat tertentu terkait crash dan keamanan memori pada program RISC-V yang telah dikompilasi, dengan syarat-syarat yang ditetapkan. Hasil ini bukan bukti bahwa seluruh pustaka tersebut bebas bug. 9
5
Skalanya terbilang besar: menurut tim, pekerjaan ini berlangsung beberapa minggu dan menghasilkan sekitar 180 juta baris kode bukti Rocq. Arti pentingnya adalah kemungkinan memperluas penggunaan verifikasi formal pada perangkat lunak nyata dengan bantuan AI—tanpa mengabaikan batas klaim yang benar-benar diperiksa. 3
13
Apa yang dibuktikan Claude?
Anthropic menyatakan bukti tersebut menunjukkan program yang diuji selalu keluar secara normal tanpa kesalahan keamanan memori atau kegagalan assertion untuk setiap input berukuran kurang dari 64 MB. Cakupannya juga mencakup respons sistem operasi Linux dan tata letak memori yang dimodelkan, dengan asumsi tertentu. Yang dibuktikan adalah artefak RISC-V hasil kompilasi, bukan jaminan abstrak atas semua versi atau penerapan pustaka terkait. 9
12
Alur kerjanya memanfaatkan titik masuk yang sudah ada di Google OSS-Fuzz sebagai spesifikasi formal. Fuzzing mencoba banyak masukan; Claude, sebaliknya, menghasilkan bukti tentang perilaku biner yang ditentukan untuk seluruh rentang input yang tercakup dalam teorema. 3
13
Anthropic menyebut upaya ini sebagai percobaan berskala besar pertama untuk menggunakan AI dalam verifikasi formal perangkat lunak produksi pada tingkat assembly. Itu merupakan klaim tim mengenai kebaruan proyek, bukan kesimpulan historis yang telah disepakati secara independen. 7
13
Mengapa pemeriksa Rocq penting?
Claude membuat bukti, lalu kernel pembuktian Rocq memeriksanya. Artinya, bukti dapat diperiksa secara mekanis tanpa pengembang harus begitu saja memercayai penalaran Claude atau menelaah setiap baris secara manual. Namun, pemeriksaan mesin tidak menghapus semua asumsi: teorema harus menyatakan sifat yang memang dibutuhkan, dan model formal serta pemeriksa tetap menjadi bagian dari landasan yang dipercaya. 9
5
Anthropic dan sejumlah laporan lain menyebut hasilnya sekitar 180 juta baris bukti Rocq, atau rata-rata kira-kira 600.000 baris per biner. Besarnya artefak itu menggambarkan skala pekerjaan, tetapi jumlah baris saja tidak menunjukkan seberapa luas suatu sifat berlaku atau apakah sifat tersebut sesuai dengan kebutuhan produksi sebuah proyek. 3
12
Pengujian bisa melewatkan sesuatu—tetapi bukan berarti tak berguna
Fuzzing mencoba banyak masukan, tetapi dengan sendirinya tidak membuktikan perilaku untuk setiap kemungkinan input dalam suatu cakupan. Laporan tentang proyek ini menyebut Claude menemukan dan memperbaiki ratusan bug, termasuk masalah yang lolos dari triliunan putaran fuzzing. Angka-angka tersebut merupakan klaim yang dilaporkan tentang proyek ini, bukan pengukuran independen bahwa verifikasi formal selalu lebih unggul daripada pengujian di proyek lain. 2
11
Intinya bukan mengganti pengujian. Bukti formal memberikan jenis jaminan yang berbeda: untuk sifat dan cakupan yang dirumuskan, perilaku bisa dibuktikan pada semua input yang memenuhi spesifikasi, bukan hanya kasus yang sempat dijalankan dalam pengujian. 9
2
“Terverifikasi” bukan berarti “bebas bug”
Jaminan tersebut berlaku untuk titik masuk tertentu dan artefak hasil kompilasi tertentu. Jaminan itu tidak otomatis mencakup setiap fungsi pustaka, konfigurasi build, arsitektur, atau cara penggunaan. 9
5
Kondisi yang digunakan juga penting. Laporan menyebut bukti berlaku untuk biner RISC-V statis dan satu utas, yang berjalan dalam lingkungan Linux termodelkan dengan batas memori tetap. Banyak perangkat lunak digunakan dalam build untuk arsitektur atau konfigurasi lain; hasil ini bukan jaminan bagi penerapan tersebut. 12
27
34
Terakhir, bukti formal membuktikan teorema yang ditulis—bukan setiap sifat yang mungkin diinginkan pengembang. Bug di luar cakupan masih bisa ada, begitu pula kesalahan pada model formal atau fondasi pemeriksa bukti yang menjadi sandaran hasilnya. 5
31
Apa artinya bagi pengembang?
Sumbangan utama proyek ini adalah bukti bahwa bantuan AI berpotensi membuat verifikasi formal pada tingkat assembly lebih praktis untuk lebih banyak perangkat lunak nyata, dibandingkan pendekatan yang membutuhkan banyak upaya ahli. Namun, hasil ini tidak memberikan perkiraan biaya universal atau jaminan bahwa metode tersebut akan berhasil pada setiap basis kode. 7
13
Sebagian artefak bukti tersedia untuk umum. Salah satu laporan menyebut rilis tersebut mencakup 25 pustaka dan 60 titik masuk—bukan keseluruhan hasil proyek. Theorem juga mengumumkan OSS Verify, sebuah program untuk para pengelola proyek sumber terbuka. 32
16
38
Bagi pengembang, langkah yang berguna adalah memeriksa batas jaminan sebelum mengandalkannya: titik masuk, artefak kompilasi, asumsi, dan sifat yang benar-benar dibuktikan. Hasil ini membuat verifikasi formal berbantuan LLM layak dipertimbangkan bersama pengujian—bukan alasan untuk menghentikan pengujian atau menganggap perangkat lunak sudah bebas bug. 9
5
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Claude Membuktikan 239 Target Fuzz Bebas Crash—tetapi Bukan Berarti Bebas Bug"?
Claude menghasilkan bukti yang diperiksa mesin untuk 239 titik masuk pengujian fuzz di 123 pustaka sumber terbuka.
Apa poin penting yang harus divalidasi terlebih dahulu?
Claude menghasilkan bukti yang diperiksa mesin untuk 239 titik masuk pengujian fuzz di 123 pustaka sumber terbuka. Bukti berlaku untuk input di bawah 64 MB pada program RISC V yang diuji dalam lingkungan Linux yang dimodelkan—bukan untuk semua versi dan konfigurasi.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Rocq memeriksa bukti secara mekanis, tetapi pengujian tetap diperlukan karena jaminan hanya mencakup sifat dan kondisi yang dirumuskan.
Sumber
anthropic.comLLMs are making formal software verification feasible at ... - Anthropic
hyper.aiAnthropic Says Claude Generated Assembly-Level Formal ...
aicoder.comAnthropic Frontier Red Team: Claude, working with Theorem ...
devops.comClaude Writes 180 Million Lines of Proofs to Verify 123 Open Source Libraries