คำตอบเผยแพร่แล้ว31 แหล่งที่มา
FlashProve พิสูจน์ที่มาของคำตอบ AI ได้แค่ไหน และยังมีข้อจำกัดอะไรบ้าง
FlashProve เป็นต้นแบบวิจัยโอเพนซอร์สที่ใช้ zkSNARK พิสูจน์ว่าโทเคนที่ตรวจสอบเป็นไปตามกติกาภายใต้น้ำหนักโมเดลที่ผูกไว้ โดยไม่ต้องเปิดเผยน้ำหนัก ระบบอาจช่วยตรวจจับการสลับโมเดลและทำให้การแทรกแซงบทสนทนาบางรูปแบบทำได้ยากขึ้น แต่ไม่ได้รับรองว่าโมเดลปลอดภัยหรือพิสูจน์ว่าการสุ่มสร้างโทเคนเป็นไปตามการแจกแจงที่กำหนด โค้ดเผยแพ...
เผยแพร่โดยแก้ไขด้วย GPT-6 Lunaรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- FlashProve เป็นต้นแบบวิจัยโอเพนซอร์สที่ใช้ zkSNARK พิสูจน์ว่าโทเคนที่ตรวจสอบเป็นไปตามกติกาภายใต้น้ำหนักโมเดลที่ผูกไว้ โดยไม่ต้องเปิดเผยน้ำหนัก
- ระบบอาจช่วยตรวจจับการสลับโมเดลและทำให้การแทรกแซงบทสนทนาบางรูปแบบทำได้ยากขึ้น แต่ไม่ได้รับรองว่าโมเดลปลอดภัยหรือพิสูจน์ว่าการสุ่มสร้างโทเคนเป็นไปตามการแจกแจงที่กำหนด
- โค้ดเผยแพร่ภายใต้ Apache 2.0 แต่คลัง GitHub ระบุว่าเป็นผลงานวิจัยที่ไม่มีการดูแลต่อและไม่รับการส่งผลงานเพิ่มเติม
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Anthropic’s FlashProve, the open-source cryptographic research prototype reported on November 4, 2026, and how does it address model. Article summary: FlashProve is Anthropic’s open-source research prototype for “provable inference”: a provider attaches a zkSNARK cryptographic proof tying a reply to previously committed model weights, without disclosing those weights. . Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
FlashProve คือระบบต้นแบบโอเพนซอร์สของ Anthropic สำหรับ การอนุมานที่ตรวจสอบได้ (provable inference) ผู้ให้บริการผูกหลักฐานเข้ารหัสไว้กับชุดน้ำหนักของโมเดล แล้วสร้างหลักฐานสำหรับคำตอบแต่ละครั้งว่าโทเคนที่ระบุนั้นเป็นไปตามกติกาที่ตกลงกันภายใต้น้ำหนักชุดดังกล่าว ผู้ใช้ตรวจสอบหลักฐานได้โดยไม่ต้องเห็นน้ำหนักโมเดล 10
29
จุดสำคัญคือ FlashProve พิสูจน์ ข้ออ้างระดับโทเคนตามกติกาที่กำหนด ไม่ได้พิสูจน์ว่าโมเดลปลอดภัย หรือว่ารายละเอียดทุกขั้นตอนของการให้บริการซื่อตรง และไม่ได้รับรองการสร้างคำตอบด้วยการสุ่มทุกรูปแบบ 10
29
FlashProve ช่วยตรวจอะไรได้บ้าง
หลักฐานช่วยผูกคำตอบเข้ากับ ชุดน้ำหนักที่ระบุไว้ แทนการต้องเชื่อชื่อโมเดลที่บริการแสดงเพียงอย่างเดียว หากคำตอบตรวจสอบกับชุดน้ำหนักที่คาดหวังไม่ผ่าน ก็อาจปฏิเสธคำตอบนั้นได้ วิธีนี้จึงอาจช่วยตรวจจับการสลับไปใช้โมเดลอื่น และทำให้การแทรกแซงหรือยึดบทสนทนาบางรูปแบบทำได้ยากขึ้น Anthropic ยังชี้ถึงการใช้ในงานประเมินความปลอดภัย เพื่อเช็กว่าโมเดลที่นำไปทดสอบเป็นโมเดลเดียวกับที่ให้บริการแก่ลูกค้าหรือไม่ 10
40
อย่างไรก็ตาม ผู้ใช้ต้องรู้ก่อนว่าควรเชื่อชุดอ้างอิงใด หลักฐานตรวจสอบได้กับรหัสผูกน้ำหนักและไฟล์สาธารณะที่ใช้ยืนยัน แต่ตัวหลักฐานไม่ได้ยืนยันด้วยตัวเองว่าชุดอ้างอิงนั้นเป็นของโมเดลที่ผู้ให้บริการอ้างชื่อไว้ และการยืนยันว่าเป็นโมเดลเดียวกันก็ไม่เท่ากับการรับรองความปลอดภัย—โมเดลจริงยังอาจให้คำตอบที่เป็นอันตรายหรือผิดพลาดได้ 30
32
ทำงานสองช่วง: ผูกน้ำหนักก่อน แล้วค่อยพิสูจน์คำตอบ
1. ผูกน้ำหนักแบบออฟไลน์ ผู้ให้บริการนำชุดน้ำหนักโมเดลเข้ากระบวนการสร้าง commitment หรือข้อมูลยืนยันที่ผูกกับน้ำหนักชุดนั้น แล้วเผยแพร่ข้อมูลที่จำเป็นสำหรับการตรวจสอบ โดยไม่เปิดเผยน้ำหนัก รหัสลายนิ้วมือของ commitment เรียกว่า commitment ID มีความยาว 32 ไบต์ 30
39
2. สร้างหลักฐานเมื่อมีคำตอบ สำหรับคำตอบแต่ละครั้ง ผู้ให้บริการสร้างหลักฐานว่าโทเคนที่นำมาตรวจผ่านนโยบายการยอมรับที่กำหนดไว้หรือไม่ นโยบายเริ่มต้นแบบ exact-match กำหนดให้โทเคนแต่ละตัวที่ตรวจเป็นตัวเลือกแบบ greedy ของโมเดล ส่วนทางเลือก clipped-gap ตรวจว่าคะแนนของโทเคนเป็นไปตามเกณฑ์ช่องว่างคะแนนที่ยอมรับไว้ ซึ่งไม่ใช่ข้ออ้างเดียวกับการพิสูจน์ว่าโทเคนถูกสุ่มอย่างซื่อตรงจากการแจกแจงความน่าจะเป็นที่ระบุ 20
32
3. ให้ผู้ใช้ตรวจหลักฐาน ฝั่งผู้ใช้ใช้หลักฐาน รหัส commitment ID ที่คาดหวัง ไฟล์ commitment สาธารณะที่เกี่ยวข้อง รวมถึงคำขอ ข้ออ้างเกี่ยวกับโทเคน และนโยบายที่ต้องการตรวจ ตัวตรวจสอบทำงานบน CPU ได้ ไม่ต้องเข้าถึงน้ำหนักส่วนตัวหรือใช้ GPU 29
30
34
การแยกขั้นตอนเช่นนี้อาจมีประโยชน์กับผู้ให้บริการโมเดลปิด เพราะเปิดทางให้ลูกค้าตรวจสอบข้ออ้างเกี่ยวกับการอนุมานได้ โดยไม่ต้องได้รับพารามิเตอร์โมเดลไปด้วย แต่นี่เป็นเพียงความเป็นไปได้ ไม่ใช่หลักฐานว่ามีบริการเชิงพาณิชย์นำ FlashProve ไปใช้แล้ว 16
29
ผลสาธิตบน Llama 4 Maverick บอกอะไร
FlashProve สาธิตกับ Llama 4 Maverick ของ Meta ซึ่งเป็นโมเดลแบบ mixture-of-experts ขนาดประมาณ 400,000 ล้านพารามิเตอร์ ตัวเลขประสิทธิภาพที่รายงานต้องอ่านโดยคำนึงว่าอัตราการประมวลผลมาจากคำขอที่จัดเป็นชุด ไม่ใช่การตอบแชตให้ผู้ใช้รายเดียว 3
7
- ความเร็วในการสร้างหลักฐาน: ราว 110 โทเคนต่อวินาทีบน Nvidia H100 หนึ่งตัว เมื่อประมวลผลคำขอ 24 รายการเป็นชุด โดยแต่ละรายการใช้หน้าต่าง 1,024 โทเคน ชุดดังกล่าวใช้เวลาประมาณ 223 วินาที
1
- ขนาดหลักฐาน: ประมาณ 18.78 MB หรือราว 19 MB ต่อคำขอ 1,024 โทเคน
- เวลาตรวจสอบ: ประมาณ 17 วินาทีบน CPU 24 เธรดตามผลทดสอบที่รายงาน ส่วนการทดสอบด้วยเธรดเดียวใช้เวลาประมาณ 21 วินาที
19
- การผูกน้ำหนักครั้งแรก: ขั้นตอนออฟไลน์ที่ทำครั้งเดียวใช้เวลาราว 39 นาที และข้อมูล commitment ที่เผยแพร่มีขนาดประมาณ 6.5 MB
13
ในคลังยังมีตัวตรวจสอบที่เขียนด้วย Lean และผลพิสูจน์ soundness ที่ตรวจสอบด้วยเครื่องมือ อย่างไรก็ตาม ขอบเขตของข้อพิสูจน์มีความสำคัญ: ข้ออ้าง soundness ที่ระบุไว้ครอบคลุมตัวตรวจสอบ Lean และข้ออ้างแบบ exact-match ภายใต้สมมติฐานที่กำหนด ส่วนนโยบาย clipped-gap รองรับข้ออ้างที่แคบกว่า จึงไม่ควรตีความว่าเป็นการรับรองทุกการติดตั้งใช้งาน การให้บริการ หรือโหมดถอดรหัส 32
33
ต้นทุนและข้อจำกัดที่ควรรู้
สร้างหลักฐานใช้ทรัพยากรสูง งานพิสูจน์ที่รายงานใช้เวลา GPU ราว 70–95 เท่าของการอนุมานปกติด้วย vLLM ถือเป็นต้นทุนเพิ่มมากสำหรับระบบที่ต้องแนบหลักฐานให้คำตอบ 1
8
หน้าต่างที่สาธิตยังสั้น เอกสารระบุว่าการสาธิตโมเดลขนาดเต็มใช้หน้าต่างบริบท 1,024 โทเคน ผลนี้จึงยังไม่ได้แสดงว่ารองรับบริบทที่ยาวกว่านั้น 23
ความเร็วรวมไม่เท่ากับเวลารอของผู้ใช้ ตัวเลขความเร็วหลักเป็นอัตรารวมจากคำขอ 24 รายการ ซึ่งใช้เวลาประมวลผลประมาณ 223 วินาที หากบริการต้องรอรวบรวมคำขอให้ได้เป็นชุดก่อน ก็อาจเพิ่มเวลาหน่วงที่ผู้ใช้เจอ 1
หลักประกันขึ้นอยู่กับวิธีถอดรหัส exact-match ตรวจว่าแต่ละโทเคนเป็นตัวเลือกแบบ greedy ส่วน clipped-gap ไม่ได้พิสูจน์ว่าโทเคนถูกสุ่มอย่างซื่อตรงจากการแจกแจงสุ่มที่กำหนดไว้ และไม่มีนโยบายใดในสองแบบนี้พิสูจน์ว่าคำตอบปลอดภัย จริง หรือมีประโยชน์ 20
32
ใครพัฒนา และสถานะของโครงการเป็นอย่างไร
FlashProve พัฒนาโดย Frontier Red Team ของ Anthropic ร่วมกับผู้ทำงานจาก EPFL, MIT และ StarkWare ผู้เขียนที่ระบุชื่อรวมถึงนักวิจัย Anthropic อย่าง Roy Rinberg และ Alex Allain ตลอดจนนักเข้ารหัส Alessandro Chiesa และผู้ร่วมงานคนอื่น ๆ 10
31
โค้ดเผยแพร่ภายใต้สัญญาอนุญาต Apache 2.0 แต่คลังโครงการระบุชัดว่า FlashProve เป็นผลงานวิจัยที่ ไม่มีการดูแลต่อและไม่รับการส่งผลงานเพิ่มเติม การเปิดซอร์สจึงไม่ได้หมายความว่าโครงการกำลังเปิดรับการแก้ไขจากผู้ใช้ 21
31
35
มีรายงานว่า Anthropic ไม่มีแผนนำ FlashProve ไปใช้งาน ไม่ว่าจะที่ Anthropic หรือที่อื่น เมื่อประกอบกับประกาศสถานะในคลังโครงการ ภาพรวมจึงเป็นต้นแบบวิจัยสำหรับสำรวจแนวทางการอนุมานที่ตรวจสอบได้ ไม่ใช่ผลิตภัณฑ์สำเร็จรูปหรือบริการที่มีการสนับสนุนสำหรับใช้งานจริง 15
35
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "FlashProve พิสูจน์ที่มาของคำตอบ AI ได้แค่ไหน และยังมีข้อจำกัดอะไรบ้าง" คืออะไร
FlashProve เป็นต้นแบบวิจัยโอเพนซอร์สที่ใช้ zkSNARK พิสูจน์ว่าโทเคนที่ตรวจสอบเป็นไปตามกติกาภายใต้น้ำหนักโมเดลที่ผูกไว้ โดยไม่ต้องเปิดเผยน้ำหนัก
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
FlashProve เป็นต้นแบบวิจัยโอเพนซอร์สที่ใช้ zkSNARK พิสูจน์ว่าโทเคนที่ตรวจสอบเป็นไปตามกติกาภายใต้น้ำหนักโมเดลที่ผูกไว้ โดยไม่ต้องเปิดเผยน้ำหนัก ระบบอาจช่วยตรวจจับการสลับโมเดลและทำให้การแทรกแซงบทสนทนาบางรูปแบบทำได้ยากขึ้น แต่ไม่ได้รับรองว่าโมเดลปลอดภัยหรือพิสูจน์ว่าการสุ่มสร้างโทเคนเป็นไปตามการแจกแจงที่กำหนด
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
โค้ดเผยแพร่ภายใต้ Apache 2.0 แต่คลัง GitHub ระบุว่าเป็นผลงานวิจัยที่ไม่มีการดูแลต่อและไม่รับการส่งผลงานเพิ่มเติม