คำตอบเผยแพร่แล้ว18 แหล่งที่มา
คำเตือนเรื่อง AI กับชีววิทยา และผลประเมินความปลอดภัยของ Hy4
เหยา ซุ่นอวี่เตือนว่า AI อาจมีความสามารถที่ก่ออันตรายในชีววิทยาได้ เช่นเดียวกับความเสี่ยงที่มีอยู่แล้วในโลกไซเบอร์ Tencent เปิดตัว Hy4 เมื่อ 4 พฤศจิกายน โดยเพิ่มความสามารถด้านภาพ การให้เหตุผล และการใช้งานคอมพิวเตอร์ แต่ระบุว่าจะเผยแพร่น้ำหนักโมเดลและเอกสารด้านความปลอดภัยภายหลัง Tencent รายงานว่า Hy4 ได้ 30.4 จาก 100...
เผยแพร่โดยแก้ไขด้วย GPT-6 Lunaรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- เหยา ซุ่นอวี่เตือนว่า AI อาจมีความสามารถที่ก่ออันตรายในชีววิทยาได้ เช่นเดียวกับความเสี่ยงที่มีอยู่แล้วในโลกไซเบอร์
- Tencent เปิดตัว Hy4 เมื่อ 4 พฤศจิกายน โดยเพิ่มความสามารถด้านภาพ การให้เหตุผล และการใช้งานคอมพิวเตอร์ แต่ระบุว่าจะเผยแพร่น้ำหนักโมเดลและเอกสารด้านความปลอดภัยภายหลัง
- Tencent รายงานว่า Hy4 ได้ 30.4 จาก 100 ในการประเมินการออกแบบการทดลองชีววิทยา และระบุมาตรการคัดกรองข้อมูลด้านไซเบอร์พร้อมการตรวจสอบแบบ red team
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
เหยา ซุ่นอวี่ หัวหน้านักวิทยาศาสตร์ด้าน AI ของ Tencent เตือนว่าโมเดล AI อาจมีความสามารถด้านชีววิทยาจนก่ออันตรายได้ในอนาคต เช่นเดียวกับที่ความสามารถด้านไซเบอร์สร้างความเสี่ยงได้ในปัจจุบัน คำเตือนนี้พูดถึงแนวโน้มของโมเดล AI แนวหน้าทั่วไป ไม่ได้หมายความว่า Hy4 ซึ่ง Tencent เพิ่งเปิดตัวผ่านเกณฑ์ความเสี่ยงสูงด้านชีววิทยาแล้ว 2
8
คำเตือนครอบคลุมอะไรบ้าง
รายงานข่าวระบุว่าเหยากังวลว่า AI กำลังเข้าใกล้จุดที่ความสามารถด้านชีววิทยาอาจถูกนำไปใช้ก่ออันตราย และการแยกแยะความสามารถที่ใช้โจมตีกับความสามารถที่ใช้ป้องกันในชีววิทยาอาจทำได้ยากกว่าในโลกไซเบอร์ 1
8
อย่างไรก็ตาม นี่เป็นคำเตือนถึงทิศทางการพัฒนาของ AI ไม่ใช่ข้อสรุปว่าโมเดลทุกตัวในปัจจุบันทำงานด้านชีววิทยาที่เป็นอันตรายได้ รายงานเดียวกันยังกล่าวถึงประโยชน์ที่ AI อาจมีต่อชีววิทยา เช่น การช่วยเร่งการวิจัยยาและการรักษา 8
ผลประเมินที่ Tencent รายงานเกี่ยวกับ Hy4
Tencent เปิดตัว Hy4 เมื่อวันที่ 4 พฤศจิกายน โมเดลขนาด 770,000 ล้านพารามิเตอร์นี้เพิ่มความสามารถด้านการทำความเข้าใจภาพ การให้เหตุผล และการใช้งานคอมพิวเตอร์ โดยสามารถทำงานผ่านทั้งบรรทัดคำสั่งและส่วนติดต่อแบบกราฟิกได้ 4
5
ในวันเปิดตัว Tencent ระบุว่าจะเผยแพร่น้ำหนักโมเดลและ system card ซึ่งเป็นเอกสารสรุปรายละเอียดและผลประเมินด้านความปลอดภัยในภายหลัง จึงควรแยกแผนเผยแพร่เอกสารเหล่านี้ออกจากการเปิดให้ใช้งานโมเดลในวันเปิดตัว 1
9
12
Tencent รายงานว่า Hy4 ได้ 30.4 จาก 100 ใน Hy-BioExperimentBench ซึ่งประเมินความสามารถในการออกแบบการทดลองชีววิทยาแบบปลายเปิด บริษัทระบุว่าคะแนนดังกล่าวต่ำกว่าเกณฑ์ที่ตนกำหนดว่าเป็นความเสี่ยงสูง ส่วนการประเมินภายในของ Tencent พบว่า Hy4 มีความรู้พื้นฐานด้านชีววิทยา แต่ยังมีข้อจำกัดในการนำความรู้นั้นไปสร้างขั้นตอนทดลองในห้องปฏิบัติการที่นำไปใช้ได้จริง 4
13
ผลนี้ช่วยให้เห็นภาพความสามารถของ Hy4 แต่ไม่ได้หักล้างคำเตือนของเหยาโดยตรง เพราะคำเตือนพูดถึงความเสี่ยงที่อาจเกิดขึ้นกับ AI แนวหน้าในภาพรวม ส่วนคะแนนเป็นผลประเมินที่ Tencent รายงานเกี่ยวกับโมเดลหนึ่งตัว ทั้งคะแนนและเกณฑ์ของบริษัทจึงไม่ใช่หลักประกันความปลอดภัยที่ผ่านการรับรองอย่างเป็นอิสระ 8
13
มาตรการด้านความปลอดภัยไซเบอร์
Tencent ระบุว่าในการฝึก Hy4 บริษัทจำกัดข้อมูลด้านไซเบอร์ไว้ที่เนื้อหาเชิงป้องกัน เช่น การสร้าง proof of concept เพื่อแสดงช่องโหว่และการแก้ไขช่องโหว่ พร้อมคัดกรองเนื้อหาบางประเภทออก เช่น การพัฒนา exploit การทำ reverse engineering และการทดสอบเจาะระบบ บริษัทยังระบุว่าผู้เชี่ยวชาญจาก Xuanwu Lab และ Keen Security Lab ของ Tencent ได้ตรวจสอบโมเดลแบบ red team 12
มาตรการเหล่านี้เป็นสิ่งที่ Tencent รายงานว่าดำเนินการ แต่ยังไม่ตอบโจทย์ทั้งหมดที่เหยาหยิบยกขึ้นมา นั่นคือจะดูแลโมเดลอย่างไรเมื่อความสามารถทางวิทยาศาสตร์เพิ่มขึ้น และเมื่อการแยกการใช้งานที่เป็นประโยชน์ออกจากการใช้งานที่อาจก่ออันตรายทำได้ยากขึ้น 8
12
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "คำเตือนเรื่อง AI กับชีววิทยา และผลประเมินความปลอดภัยของ Hy4" คืออะไร
เหยา ซุ่นอวี่เตือนว่า AI อาจมีความสามารถที่ก่ออันตรายในชีววิทยาได้ เช่นเดียวกับความเสี่ยงที่มีอยู่แล้วในโลกไซเบอร์
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
เหยา ซุ่นอวี่เตือนว่า AI อาจมีความสามารถที่ก่ออันตรายในชีววิทยาได้ เช่นเดียวกับความเสี่ยงที่มีอยู่แล้วในโลกไซเบอร์ Tencent เปิดตัว Hy4 เมื่อ 4 พฤศจิกายน โดยเพิ่มความสามารถด้านภาพ การให้เหตุผล และการใช้งานคอมพิวเตอร์ แต่ระบุว่าจะเผยแพร่น้ำหนักโมเดลและเอกสารด้านความปลอดภัยภายหลัง
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
Tencent รายงานว่า Hy4 ได้ 30.4 จาก 100 ในการประเมินการออกแบบการทดลองชีววิทยา และระบุมาตรการคัดกรองข้อมูลด้านไซเบอร์พร้อมการตรวจสอบแบบ red team