คำตอบเผยแพร่แล้ว19 แหล่งที่มา
นัดเดลลาเปลี่ยนใจ: AI เก่งขึ้น ไม่ได้แปลว่าจะปลอดภัยขึ้น
นาเดลลาบอกว่าเขาเคยคิดว่าการทำให้ AI เก่งขึ้นจะช่วยให้ระบบสอดคล้องกับเป้าหมายมนุษย์เอง แต่ตอนนี้ไม่เชื่อเช่นนั้นแล้ว การจัดแนวอาจไม่เกิดขึ้นเองจากการขยายโมเดล และความเข้าใจกลไกภายในของ AI ก็อาจยังเป็นเรื่องยาก เขาเสนอให้ทำงานด้านการจัดแนวตั้งแต่ขั้นฝึกโมเดล ควบคู่กับมาตรการจำกัดสิทธิ์และควบคุมการทำงานจากภายนอก
เผยแพร่โดยแก้ไขด้วย GPT-6 Lunaรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- นาเดลลาบอกว่าเขาเคยคิดว่าการทำให้ AI เก่งขึ้นจะช่วยให้ระบบสอดคล้องกับเป้าหมายมนุษย์เอง แต่ตอนนี้ไม่เชื่อเช่นนั้นแล้ว
- การจัดแนวอาจไม่เกิดขึ้นเองจากการขยายโมเดล และความเข้าใจกลไกภายในของ AI ก็อาจยังเป็นเรื่องยาก
- เขาเสนอให้ทำงานด้านการจัดแนวตั้งแต่ขั้นฝึกโมเดล ควบคู่กับมาตรการจำกัดสิทธิ์และควบคุมการทำงานจากภายนอก
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft CEO Satya Nadella’s view changed on whether scaling AI models naturally aligns them with human goals, as explained in his. Article summary: Nadella has moved from expecting alignment to emerge naturally as AI models become more capable to treating it as a separate—and potentially harder—problem that scaling alone will not solve. His response is two-track: pu. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
สัตยา นาเดลลา ซีอีโอของไมโครซอฟท์ เปลี่ยนมุมมองเรื่องความปลอดภัยของ AI: การทำให้โมเดลมีความสามารถมากขึ้น ไม่ได้หมายความว่าระบบจะทำงานสอดคล้องกับเป้าหมายของมนุษย์มากขึ้นโดยอัตโนมัติ ในการให้สัมภาษณ์รายการ 20VC เมื่อวันที่ 26 ตุลาคม 2026 และการพูดถึงความปลอดภัยของไมโครซอฟท์เมื่อวันที่ 19 ตุลาคม เขาระบุว่าการขยายขนาดโมเดลเพียงอย่างเดียวอาจไม่แก้ปัญหาการจัดแนว (alignment) ซึ่งหมายถึงการทำให้พฤติกรรมของ AI สอดคล้องกับเป้าหมายและความต้องการของมนุษย์ 5
11
โมเดลเก่งขึ้น ไม่ได้แปลว่าปลอดภัยขึ้น
ก่อนหน้านี้ นาเดลลาเคยคาดว่าการจัดแนวจะเกิดขึ้นตามความสามารถของ AI ที่เพิ่มขึ้น แต่ตอนนี้เขามองว่าทั้งสองเรื่องไม่ได้พัฒนาไปพร้อมกันโดยอัตโนมัติ ในบทสัมภาษณ์ เขาสรุปว่า การจัดแนว “ไม่ได้เกิดขึ้นเองเพียงเพราะความสามารถเพิ่มขึ้นจากการขยายโมเดล” 5
11
เขายังเตือนด้วยว่า แม้การขยายโมเดลจะยังช่วยเพิ่มความสามารถ แต่การทำความเข้าใจกลไกภายในของ AI อย่างละเอียดอาจยังเป็นเรื่องยาก นั่นทำให้ความสามารถที่เพิ่มขึ้นเพียงอย่างเดียวไม่ใช่หลักฐานว่าระบบปลอดภัยหรือเข้าใจได้ว่าเหตุใดจึงเลือกกระทำเช่นนั้น 5
ข้อเสนอของนาเดลลาไม่ใช่ให้เลิกพยายามทำให้ AI สอดคล้องกับเป้าหมายมนุษย์ แต่ควรฝังการจัดแนวไว้ในกระบวนการฝึกโมเดล อาจเริ่มตั้งแต่ขั้นฝึกก่อน (pre-training) แทนที่จะหวังให้เกิดขึ้นเองภายหลัง ขณะเดียวกัน เขาตั้งข้อสงสัยว่าการใช้การเรียนรู้แบบเสริมแรง (reinforcement learning) เพียงอย่างเดียวจะทำให้ AI จัดแนวได้หรือไม่ 2
8
ฝึกให้ทำงานเหมาะสม พร้อมจำกัดสิ่งที่ทำได้
การฝึกโมเดลมีเป้าหมายเพื่อกำหนดแนวทางพฤติกรรม ส่วนการควบคุมเมื่อ AI ถูกนำไปใช้งานจริงเป็นอีกโจทย์หนึ่ง นาเดลลามองว่าองค์กรไม่ควรฝากความปลอดภัยไว้กับการจัดแนวภายในโมเดลเพียงอย่างเดียว แต่ควรมีมาตรการควบคุมแยกต่างหาก แม้งานด้านการจัดแนวยังดำเนินต่อไป 2
5
แนวคิดนี้สะท้อนอยู่ในการขยาย Project Perception ของไมโครซอฟท์เมื่อวันที่ 19 ตุลาคม นาเดลลากล่าวว่าโครงการจะเพิ่มความสามารถในการประเมินความเสี่ยงของ AI agent อย่างต่อเนื่อง ปรับสิทธิ์การเข้าถึง และจำกัดหรือสกัดกั้นภัยคุกคาม 1
14
การมอง AI เป็นความเสี่ยงจาก “คนวงใน” ไม่ได้หมายความว่าโมเดลมีเจตนาร้าย แต่หมายถึงไม่ควรปล่อยให้ระบบที่ได้รับสิทธิ์เข้าถึงข้อมูลหรือเครื่องมือทำงานโดยไม่มีมาตรการตรวจสอบอิสระ หลักปฏิบัติคือแยกความสามารถในการเสนอหรือเริ่มดำเนินการ ออกจากอำนาจที่จะทำให้การกระทำนั้นเกิดขึ้นจริง หาก AI ทำงานผิดคาด การกำหนดสิทธิ์และระบบควบคุมภายนอกจะช่วยจำกัดขอบเขตความเสียหายได้ 1
14
ในบทความเมื่อวันที่ 10 ตุลาคม นาเดลลายังเสนอให้ตั้งต้นจากสมมติฐานว่าโมเดลอาจถูกเจาะหรือถูกทำให้ทำงานผิดทาง และควรมีช่องทางให้ผู้มีอำนาจหยุดหรือพักการทำงานของระบบระหว่างภารกิจได้ 18
22
หลักความเชื่อใจที่ไม่ต้องเชื่อ AI อย่างมืดบอด
มุมมองใหม่นี้แยก “ความสามารถ” ออกจาก “ความปลอดภัย” อย่างชัดเจน หากการจัดแนวไม่ได้เกิดขึ้นเองจากการขยายโมเดล องค์กรก็ไม่ควรสรุปว่า AI ปลอดภัยขึ้นเพียงเพราะทำงานได้เก่งขึ้น แนวทางที่นาเดลลาพูดถึงจึงมีสองด้าน คือพัฒนาการจัดแนวตั้งแต่ขั้นฝึก และสร้างระบบควบคุมระหว่างใช้งานที่ทำงานได้โดยไม่ต้องพึ่งพาพฤติกรรมของโมเดล 2
5
นาเดลลาสรุปหลักคิดเรื่องความเชื่อใจไว้ว่า ระบบที่น่าไว้วางใจที่สุดคือระบบ “ที่ทำให้เราเชื่อใจโมเดลได้น้อยที่สุด” 9 กล่าวคือ ความปลอดภัยไม่ควรขึ้นอยู่กับคำรับรองว่า AI จะทำสิ่งที่ถูกต้องเสมอ แต่ควรมีมาตรการกำกับและควบคุมรองรับด้วย
หลักฐานที่มีสนับสนุนการเปลี่ยนจุดเน้นนี้ แต่ไม่ได้ยืนยันรายละเอียดของมาตรการทุกข้อที่อาจถูกกล่าวถึงในวงกว้าง ใจความสำคัญของข้อเสนอคือ การขยายโมเดลไม่ใช่หลักประกันว่าระบบจะจัดแนวได้ จึงควรทำงานด้านการฝึกควบคู่ไปกับการควบคุมจากภายนอกและการกำกับดูแลของมนุษย์ 1
5
18
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "นัดเดลลาเปลี่ยนใจ: AI เก่งขึ้น ไม่ได้แปลว่าจะปลอดภัยขึ้น" คืออะไร
นาเดลลาบอกว่าเขาเคยคิดว่าการทำให้ AI เก่งขึ้นจะช่วยให้ระบบสอดคล้องกับเป้าหมายมนุษย์เอง แต่ตอนนี้ไม่เชื่อเช่นนั้นแล้ว
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
นาเดลลาบอกว่าเขาเคยคิดว่าการทำให้ AI เก่งขึ้นจะช่วยให้ระบบสอดคล้องกับเป้าหมายมนุษย์เอง แต่ตอนนี้ไม่เชื่อเช่นนั้นแล้ว การจัดแนวอาจไม่เกิดขึ้นเองจากการขยายโมเดล และความเข้าใจกลไกภายในของ AI ก็อาจยังเป็นเรื่องยาก
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
เขาเสนอให้ทำงานด้านการจัดแนวตั้งแต่ขั้นฝึกโมเดล ควบคู่กับมาตรการจำกัดสิทธิ์และควบคุมการทำงานจากภายนอก
แหล่งที่มา
ceointerviews.aiHow Security Leaders Can Prepare for Super Intelligence — Satya Nadella
businessinsider.comSatya Nadella Changed His Mind on the Inevitably of AI Alignment
bidclub.ai20VC: Satya Nadella on Open vs Closed Models: Who Wins
blumify.ioSatya Nadella: what they said, interviews and podcasts - Blumify