จากการทำนาย สู่การสร้างสรรค์ และการลงมือทำ: AI วิวัฒน์มาไกลแค่ไหน

2. Generative AI: จากการทำนายป้ายกำกับ สู่การสร้างเนื้อหา

Generative AI เปลี่ยนประสบการณ์ของผู้ใช้จากคำถามว่า “สิ่งนี้อยู่ในหมวดหมู่ใด” ไปเป็น “ช่วยสร้างหรือเปลี่ยนสิ่งนี้ตามคำสั่งให้หน่อย” โมเดลขนาดใหญ่สามารถสร้างข้อความ ภาพ เสียง และโค้ดที่ดูสมเหตุสมผล จึงถูกนำไปใช้ร่างคำตอบบริการลูกค้า แปลภาษา ติวและให้คำแนะนำ สรุปเอกสารกฎหมาย ช่วยเขียนซอฟต์แวร์ และสนับสนุนงานสร้างสรรค์

ข้อดีสำคัญคือช่วยลดเวลาและต้นทุนในการทำร่างแรก ทำให้ผู้ใช้สนทนากับข้อมูลหรือความรู้ที่ซับซ้อนได้ง่ายขึ้น และช่วยเพิ่มศักยภาพของผู้เชี่ยวชาญแทนที่จะทำหน้าที่เพียงตัดสินใจแบบตายตัว

จุดอ่อนสำคัญ: คำตอบที่ดูน่าเชื่อถือไม่ได้แปลว่าเป็นความจริง

โมเดลสร้างเนื้อหาอาจสร้างข้อความ แหล่งอ้างอิง ข้อกฎหมาย ข้อมูลทางการแพทย์ หรือโค้ดที่แต่งขึ้นหรือคลาดเคลื่อน แต่แสดงออกด้วยน้ำเสียงมั่นใจ สถาบันมาตรฐานและเทคโนโลยีแห่งสหรัฐฯ หรือ NIST ใช้คำว่า confabulation สำหรับ “การสร้างเนื้อหาที่ผิดหรือเป็นเท็จ แต่ระบุออกมาอย่างมั่นใจ” ซึ่งมักเรียกกันทั่วไปว่า hallucination หรือ “ภาพหลอน” ของ AI

เมื่อความถูกต้องของข้อเท็จจริงมีความสำคัญ การตรวจสอบจึงเป็นสิ่งจำเป็น มาตรการที่ช่วยลดความเสี่ยง ได้แก่ การดึงข้อมูลจากแหล่งที่เชื่อถือได้ การแสดงแหล่งอ้างอิง การประเมินอย่างเป็นระบบ การทดสอบเฉพาะด้าน และการให้ผู้เชี่ยวชาญตรวจทาน คำตอบที่ลื่นไหลควรถูกมองว่าเป็นร่างหรือการคาดการณ์ ไม่ใช่หลักฐานว่าข้อความนั้นถูกต้องโดยอัตโนมัติ

ความเสี่ยงที่กว้างขึ้นของ Generative AI

Generative AI ยังทำให้เกิดคำถามเรื่องการคุ้มครองข้อมูลส่วนบุคคล ทรัพย์สินทางปัญญา ข้อมูลบิดเบือน และที่มาของผลงาน แนวทางของคณะกรรมาธิการยุโรปสำหรับงานวิจัยชี้ให้เห็นความเสี่ยงเหล่านี้ และย้ำว่ามนุษย์ยังคงต้องรับผิดชอบต่อผลงานที่เผยแพร่ แม้จะมี AI ช่วยจัดทำก็ตาม

การศึกษาเป็นอีกพื้นที่ที่ต้องระวัง หากนักเรียนใช้ AI แทนการเขียน การให้เหตุผล และการแก้ปัญหาเป็นประจำ ก็อาจได้ผลงานที่ดูดีโดยมีโอกาสฝึกทักษะเบื้องหลังน้อยลง แนวทางด้านการศึกษาจึงระบุความเสี่ยงตั้งแต่เนื้อหาที่ไม่ถูกต้อง มีอคติ หรือเป็นอันตราย ไปจนถึงการรั่วไหลของข้อมูล การละเมิดทรัพย์สินทางปัญญา และปัญหาความซื่อสัตย์ทางวิชาการ

ในบทสนทนาที่อ่อนไหว ความผิดพลาดด้านความปลอดภัยอาจรุนแรงขึ้น ระบบสร้างเนื้อหาอาจผลิตข้อความแสดงความเกลียดชัง ความรุนแรง เรื่องทางเพศ เนื้อหาชักจูง หรือให้คำตอบที่ไม่เหมาะสมเมื่อผู้ใช้แสดงสัญญาณทำร้ายตนเอง NIST ระบุความเสี่ยงเรื่องคำแนะนำที่เป็นอันตรายหรือรุนแรง ความเป็นส่วนตัว และอคติที่ก่อให้เกิดอันตรายไว้ด้วย ในสถานการณ์ความเสี่ยงสูง AI ไม่ควรเข้ามาแทนที่ผู้เชี่ยวชาญหรือระบบดูแลความปลอดภัยของมนุษย์ แต่ควรมีระบบปฏิเสธคำขอที่เป็นอันตราย การส่งต่อให้เจ้าหน้าที่ และช่องทางติดต่อความช่วยเหลือจากมนุษย์อย่างชัดเจน

3. Agentic AI: วางแผน ใช้เครื่องมือ และลงมือทำ

Agentic AI เพิ่มวงจรการลงมือทำเข้าไปรอบ ๆ โมเดล แทนที่จะตอบคำสั่งเพียงครั้งเดียว เอเจนต์สามารถตีความเป้าหมาย แบ่งงานออกเป็นขั้นตอน เรียกใช้เครื่องมือ เช่น เบราว์เซอร์ โปรแกรมรันโค้ด อีเมล หรือ API ตรวจสอบผลลัพธ์ ปรับแผน และทำงานต่อได้

มหาวิทยาลัยสแตนฟอร์ดอธิบาย Agentic AI ว่าเป็นระบบอัตโนมัติหรือกึ่งอัตโนมัติที่สามารถตีความเป้าหมาย เรียงลำดับการกระทำ ใช้เครื่องมือ ตอบสนองต่อข้อมูลย้อนกลับ และปรับตัวเพื่อทำงานให้สำเร็จภายใต้ข้อจำกัดที่กำหนด

ความแตกต่างในทางปฏิบัติอาจสรุปได้ดังนี้

• ระบบคาดการณ์ ให้คะแนน ธุรกรรม
• ระบบสร้างเนื้อหา ร่างคำตอบ เกี่ยวกับธุรกรรมนั้น
• เอเจนต์อาจ ตรวจสอบธุรกรรม อัปเดตแฟ้มงาน และส่งข้อความ ได้ หากได้รับสิทธิ์เข้าถึงเครื่องมือที่จำเป็น

ตัวอย่างในงานพัฒนาซอฟต์แวร์คือ Jules ของ Google ซึ่ง Google อธิบายว่าเป็นเอเจนต์เขียนโค้ดแบบอะซิงโครนัสที่เชื่อมต่อกับคลังโค้ด โคลนโค้ดเบสไปยังเครื่องเสมือนบนคลาวด์ และทำงานที่ได้รับมอบหมายเพื่อให้มนุษย์ตรวจสอบภายหลัง ขณะเดียวกัน เอเจนต์แบบโอเพนซอร์สที่ใช้เครื่องมือก็เป็นอีกแนวทางหนึ่ง และผลิตภัณฑ์ด้านการสรรหาบุคลากรอย่าง Hiring Assistant ของ LinkedIn แสดงให้เห็นว่าเวิร์กโฟลว์ลักษณะนี้สามารถขยายไปสู่งานจัดหาและคัดเลือกคนได้

ความน่าสนใจของเอเจนต์อยู่ที่ความสามารถในการทำงานหลายขั้นตอนให้เสร็จ ไม่ใช่แค่เสนอขั้นตอนถัดไป ตัวอย่างเช่น เอเจนต์เขียนโค้ดอาจตรวจสอบบั๊ก แก้ไขหลายไฟล์ รันการทดสอบ และเตรียม pull request เพื่อให้ทีมพิจารณา ส่วนเอเจนต์ด้านเวิร์กโฟลว์อาจรวบรวมข้อมูล จัดระเบียบ และเตรียมการสื่อสารเพื่อรอการอนุมัติ

ทำไมความเป็นอิสระจึงเพิ่มความเสี่ยง

การวางแผนไม่ได้แปลว่าเข้าใจสถานการณ์ได้อย่างถูกต้องเสมอไป เอเจนต์อาจตีความหน้าเว็บผิด เลือกแผนที่ไม่ดี ทำตามคำสั่งที่เป็นอันตราย หรือขยายความผิดพลาดเล็ก ๆ ให้สะสมตลอดหลายขั้นตอน รายงาน AI Index 2026 ของสแตนฟอร์ดระบุว่าอัตราความสำเร็จของเอเจนต์บน OSWorld ซึ่งเป็นการทดสอบงานคอมพิวเตอร์จริง เพิ่มจาก 12% เป็นประมาณ 66% แต่ก็ยังล้มเหลวประมาณหนึ่งในสามของความพยายาม

ความผิดพลาดของแชตบอตอาจจบลงที่ปัญหาด้านการสื่อสาร แต่เอเจนต์ที่มีข้อมูลรับรอง สิทธิ์ใช้เบราว์เซอร์ หรืออำนาจชำระเงิน สามารถเปลี่ยนความผิดพลาดแบบเดียวกันให้กลายเป็นการกระทำที่เกิดขึ้นจริงภายนอกระบบได้ การกำกับดูแล Agentic AI จึงต้องพิจารณาไม่เพียงคุณภาพของคำตอบ แต่รวมถึงสิทธิ์การเข้าถึง ความสามารถในการย้อนกลับการกระทำ และความรับผิดชอบด้วย

ความเสี่ยงหลักของ AI เอเจนต์

ความเสี่ยงสำคัญที่สุดเกิดขึ้นเมื่อเอเจนต์มีอำนาจส่งผลต่อระบบ เงิน ข้อมูล หรือบุคคลอื่น ได้แก่

• การชำระเงินโดยไม่ได้รับอนุญาต: เอเจนต์อาจเลือกสินค้าผิด ใช้งบเกินขอบเขต หรือถูกหน้าเว็บที่เป็นอันตรายหลอกให้ดำเนินการ
• ข้อมูลส่วนบุคคลรั่วไหลและการขโมยข้อมูล: การเข้าถึงอีเมล ไฟล์ ข้อมูลลูกค้า โค้ด หรือคีย์ API เปิดช่องให้ข้อมูลถูกเปิดเผย โดยเฉพาะเมื่อเกิด prompt injection หรือคำสั่งแฝงที่พยายามชักจูงเอเจนต์
• ความเสียหายต่อความปลอดภัยและซอฟต์แวร์: เอเจนต์อาจสร้างโค้ดที่ไม่ปลอดภัย เปลี่ยนการตั้งค่า ลบทรัพยากร หรือเปิดเผยความลับผ่านบันทึกระบบและเครื่องมือภายนอก
• ช่องว่างด้านความรับผิดชอบ: อาจไม่ชัดเจนว่าใครต้องรับผิดชอบระหว่างผู้ให้บริการโมเดล นักพัฒนาแอป องค์กรที่นำไปใช้งาน ผู้ให้บริการเครื่องมือ และผู้ใช้
• การชักจูง: เอเจนต์ที่สนทนาต่อเนื่องและทำงานเชิงรุกอาจมีอิทธิพลต่อผู้ใช้มากเกินควร โดยเฉพาะเมื่อผู้ใช้อยู่ในภาวะเปราะบาง หรือเมื่อระบบดูมีความสามารถและน่าไว้วางใจมากกว่าความเป็นจริง

แนวทางกำกับดูแลที่รับผิดชอบ

มาตรการควบคุมควรสอดคล้องกับความสามารถของระบบและผลกระทบหากเกิดความผิดพลาด

สำหรับ AI เชิงคาดการณ์ องค์กรควรกำหนดวัตถุประสงค์ วัดความแม่นยำและความเป็นธรรม ปกป้องข้อมูลส่วนบุคคล และเปิดช่องทางอธิบายหรือโต้แย้งผลลัพธ์ที่มีผลกระทบสูง

สำหรับ Generative AI ควรตรวจสอบข้ออ้างสำคัญ ทดสอบการเกิดข้อมูลแต่งขึ้นและเนื้อหาที่เป็นอันตราย ควบคุมข้อมูลอ่อนไหว จัดการเรื่องที่มาและทรัพย์สินทางปัญญา และให้ผู้เชี่ยวชาญรับผิดชอบการตัดสินใจด้านกฎหมาย การแพทย์ การเงิน และการคุ้มครองความปลอดภัย

สำหรับเอเจนต์ การควบคุมทั้งด้านเทคนิคและองค์กรต้องเข้มข้นขึ้น

1. กำหนดขอบเขตการใช้งาน: ตัดสินใจก่อนติดตั้งว่าเอเจนต์ทำอะไรได้และทำอะไรไม่ได้
2. จำกัดสิทธิ์การเข้าถึง: ใช้ข้อมูลรับรองตามหลักสิทธิ์เท่าที่จำเป็น จำกัดเครื่องมือ กำหนดเพดานธุรกรรม และใช้สภาพแวดล้อมแบบแซนด์บ็อกซ์
3. กำหนดจุดตรวจที่ต้องขออนุมัติ: การดำเนินการด้านการเงิน กฎหมาย ความเป็นส่วนตัว และความปลอดภัยไม่ควรเกิดขึ้นโดยไม่มีการอนุมัติจากมนุษย์ในระดับที่เหมาะสม
4. ทำให้ทุกกิจกรรมตรวจสอบย้อนหลังได้: เก็บบันทึก ติดตามพฤติกรรม และกำหนดผู้รับผิดชอบเหตุการณ์อย่างชัดเจน
5. ทดสอบแบบฝ่ายตรงข้าม: ประเมิน prompt injection การดึงข้อมูลออกจากระบบ พฤติกรรมที่เป็นอันตราย และการกู้คืนจากความผิดพลาดทั้งก่อนและระหว่างใช้งาน
6. รักษาการควบคุมของมนุษย์: ผู้ใช้ต้องสามารถหยุด แทรกแซง ยกเลิก และโต้แย้งการกระทำที่มีผลกระทบได้

สำนักงานพัฒนาสารสนเทศและการสื่อสารของสิงคโปร์ หรือ IMDA วางแนวทางตามระดับความเสี่ยงไว้ใน Model AI Governance Framework for Agentic AI ซึ่งจัดทำขึ้นสำหรับองค์กรที่พัฒนาเอเจนต์เองหรือนำโซลูชันจากผู้ให้บริการภายนอกมาใช้งาน บทเรียนสำคัญคือควรเพิ่มระดับความเป็นอิสระทีละขั้น เริ่มจากการช่วยอ่านข้อมูลอย่างเดียว ต่อด้วยการกระทำที่มีความเสี่ยงต่ำ และสงวนการกระทำที่ย้อนกลับไม่ได้หรือมีผลกระทบสูงไว้สำหรับการอนุมัติโดยมนุษย์อย่างชัดเจน

ทิศทางต่อไปของ AI

วิวัฒนาการของ AI ควรถูกมองว่าเป็นการสะสมชั้นความสามารถ มากกว่าจะเป็นยุคสามช่วงที่แยกขาดจากกัน ระบบดั้งเดิมทำหน้าที่ทำนายและจำแนก Generative AI สร้างและแปลงเนื้อหา ส่วน Agentic AI เพิ่มความสามารถในการวางแผน ใช้เครื่องมือ และลงมือทำ

การกำกับดูแลต้องขยายตามความสามารถเช่นกัน มาตรการด้านความแม่นยำและความเป็นธรรมยังจำเป็น แต่ไม่เพียงพออีกต่อไป ระบบสร้างเนื้อหาต้องมีการตรวจสอบข้อเท็จจริง การระบุที่มาของเนื้อหา และแนวทางความปลอดภัยของผลลัพธ์ ขณะที่เอเจนต์ต้องมีการจำกัดสิทธิ์ ขอบเขตการกระทำ จุดตรวจอนุมัติ การติดตามด้านความปลอดภัย และผู้รับผิดชอบที่ชัดเจน

ยิ่ง AI ทำงานแทนมนุษย์ได้มากเท่าไร องค์กรก็ยิ่งต้องตัดสินใจอย่างรอบคอบมากขึ้นว่า ระบบได้รับอนุญาตให้ทำอะไรได้บ้าง