Google ย้ายทีมรับผิดชอบ AI ราว 90 คนไปฝ่ายกิจการสาธารณะ เสี่ยงกระทบความเป็นอิสระในการกำกับดูแลหรือไม่

Google เตรียมย้ายทีม AI Responsibility ซึ่งมีสมาชิกประมาณ 90 คน ออกจาก Google DeepMind ไปอยู่ภายใต้ฝ่าย Global Affairs หรือฝ่ายที่ดูแลงานกิจการสาธารณะ นโยบาย กฎหมาย และความสัมพันธ์กับภาครัฐ โดยคาดว่าจะเกิดขึ้นในช่วงต้นเดือนกันยายน

รายงานระบุว่า เหตุผลสำคัญคือการนำงานศึกษาความเสี่ยงและผลกระทบทางสังคมของ AI ไปอยู่ใกล้กับหน่วยงานที่รับผิดชอบด้านนโยบายและการกำกับดูแลมากขึ้น ขณะเดียวกัน Google ก็กำลังผนวก DeepMind เข้ากับการดำเนินงานด้าน AI ที่เน้นผลิตภัณฑ์และการพัฒนา Gemini มากกว่าเดิม 53

ทีมนี้ทำหน้าที่อะไร

ทีม AI Responsibility ศึกษาความเสี่ยงทั้งระดับร้ายแรงและระดับสังคมจากระบบ AI รุ่นแนวหน้า หรือโมเดลที่มีความสามารถสูงขึ้นเรื่อย ๆ ประเด็นที่เกี่ยวข้องรวมถึงความเป็นไปได้ที่ AI จะถูกนำไปใช้ในทางที่ผิดด้าน เคมี ชีวภาพ รังสี และนิวเคลียร์ หรือที่เรียกรวมว่า CBRN รวมถึงผลกระทบทางจิตใจจากการมีปฏิสัมพันธ์กับแชตบอตอย่างต่อเนื่องเป็นเวลานาน 5

การย้ายครั้งนี้หมายความว่า ทีมจะไม่ได้อยู่ภายในหน่วยงานเดียวกับห้องปฏิบัติการที่พัฒนาโมเดล AI รุ่นแนวหน้าโดยตรงอีกต่อไป

เหตุใดพนักงานจึงกังวล

ข้อกังวลหลักของพนักงานคือ เมื่อทีมย้ายจากสภาพแวดล้อมด้านการวิจัยไปอยู่ในฝ่ายกิจการองค์กร ทีมอาจมีความเป็นอิสระน้อยลง และอยู่ห่างจากการตัดสินใจสำคัญเกี่ยวกับการออกแบบหรือเปิดตัวโมเดลมากขึ้น

พนักงานบางส่วนกังวลว่าโครงสร้างใหม่อาจทำให้การติดตามประเด็นที่ไม่สอดคล้องกับเป้าหมายทางธุรกิจทำได้ยากขึ้น รวมถึงการยกระดับข้อค้นพบที่ไม่เป็นที่ต้องการเกี่ยวกับโมเดลใหม่ ๆ ให้ผู้บริหารรับทราบ 5

อย่างไรก็ตาม นี่คือข้อกังวลที่ถูกรายงานจากภายในองค์กร ไม่ใช่หลักฐานว่าบริษัทได้กำหนดข้อจำกัดดังกล่าวไปแล้ว

ทีมจะยังเหลือทรัพยากรและอำนาจอะไรบ้าง

ข้อมูลที่เปิดเผยต่อสาธารณะระบุว่า ทีมที่ถูกย้ายจะยังรับผิดชอบการศึกษาความเสี่ยงและผลกระทบทางสังคมของ AI ต่อไป แต่ยังไม่มีรายละเอียดที่ยืนยันได้อย่างครบถ้วนและมีผลผูกพันเกี่ยวกับอนาคตของทีมในหลายประเด็น เช่น

• จำนวนบุคลากรและงบประมาณ
• สิทธิ์เข้าถึงโมเดลและข้อมูลการทดสอบ
• เสรีภาพในการเผยแพร่งานวิจัย
• ช่องทางยกระดับข้อกังวลไปยังผู้มีอำนาจตัดสินใจ
• อำนาจในการทบทวนหรือชะลอการเปิดตัวโมเดล

ด้วยเหตุนี้ จึงยังสรุปไม่ได้อย่างมั่นใจว่าทีมจะรักษากลไกคุ้มครองในทางปฏิบัติไว้ได้มากน้อยเพียงใด และยังมีหลักฐานไม่เพียงพอที่จะกล่าวว่าการย้ายครั้งนี้ทำให้ทีมสูญเสียอำนาจอย่างเป็นทางการในการระงับการเปิดตัวระบบ AI 5

งานด้านความปลอดภัยส่วนใดยังอยู่กับ DeepMind

การย้ายทีมไม่ได้หมายความว่างานด้านความปลอดภัยทั้งหมดจะออกจาก Google DeepMind หน่วยงานอื่น ๆ ของ DeepMind และ Google ยังคงทำงานเกี่ยวกับมาตรการป้องกันในระดับการปฏิบัติการของโมเดล เช่น พฤติกรรมของโมเดล ความเป็นส่วนตัว ความมั่นคงปลอดภัย และความปลอดภัยทางเทคนิค 67

ภาพที่ชัดขึ้นจึงเป็นการแบ่งงานออกเป็นสองส่วน ได้แก่

1. การควบคุมเชิงเทคนิคและผลิตภัณฑ์ ซึ่งยังอยู่ใกล้กับองค์กรที่พัฒนาโมเดล
2. งานด้านผลกระทบ การกำกับดูแล และนโยบาย ซึ่งจะไปอยู่ใกล้ฝ่าย Global Affairs มากขึ้น

การแบ่งเช่นนี้อาจช่วยให้ Google ประสานงานด้านนโยบายและการรับมือหน่วยงานกำกับดูแลได้เป็นระบบเดียวกันทั้งบริษัท แต่ก็ทำให้เกิดคำถามว่า ผู้ที่มีหน้าที่ตั้งคำถามต่อความเสี่ยงของโมเดลยังอยู่ใกล้ผู้พัฒนาและผู้ตัดสินใจเปิดตัวมากพอหรือไม่

การย้ายทีมเกิดขึ้นพร้อมการเปลี่ยนแปลงผู้นำ

การปรับโครงสร้างทีม AI เกิดขึ้นในช่วงที่ Demis Hassabis เปลี่ยนจากการทำหน้าที่ซีอีโอของ Google DeepMind ในแต่ละวัน ไปเป็นประธานของ Google DeepMind และหัวหน้านักวิทยาศาสตร์ของ Alphabet ซึ่งเป็นบริษัทแม่ของ Google ขณะที่ Koray Kavukcuoglu ได้รับอำนาจดูแลการดำเนินงานมากขึ้น 1334

รายงานยังระบุว่า Google ได้ย้ายทีม AI บางส่วนเข้าไปอยู่ในโครงสร้างองค์กรกลางของ Google ขณะที่ผู้บริหารผลักดันการพัฒนา Gemini ให้เร็วขึ้น ท่ามกลางการลาออกของบุคลากรระดับอาวุโสหลายราย 1334

ดังนั้น การย้ายทีม AI Responsibility จึงไม่ใช่เหตุการณ์ที่เกิดขึ้นอย่างโดดเดี่ยว แต่เป็นส่วนหนึ่งของการจัดระเบียบครั้งใหญ่ที่พยายามรวมศูนย์การดำเนินงานด้าน AI และเร่งความเร็วในการแข่งขันกับบริษัทคู่แข่ง

สิ่งที่การปรับโครงสร้างนี้บอกเราเกี่ยวกับวงการ AI

การเปลี่ยนแปลงดังกล่าวไม่ได้แปลว่า Google เลิกให้ความสำคัญกับความปลอดภัยของ AI แต่สะท้อนความตึงเครียดที่บริษัท AI รายใหญ่ต้องเผชิญอยู่ตลอดเวลา นั่นคือ บริษัทต้องการให้ผู้เชี่ยวชาญด้านความปลอดภัยอยู่ใกล้การพัฒนาโมเดลมากพอที่จะช่วยป้องกันปัญหาตั้งแต่ต้น แต่ในเวลาเดียวกันก็ต้องรวมศูนย์งานด้านกฎหมาย นโยบาย และการนำผลิตภัณฑ์ออกสู่ตลาด เพื่อแข่งขันให้ทันในช่วงที่การพัฒนาโมเดลมีความเร็วสูงมาก 53

โครงสร้างใหม่อาจช่วยให้การทำงานด้านนโยบายและการติดต่อกับหน่วยงานกำกับดูแลสอดคล้องกันทั้งบริษัท แต่หากไม่มีการรับรองที่ชัดเจนเรื่องการเข้าถึงโมเดล สิทธิ์เผยแพร่ผลงาน และอำนาจยกระดับหรือทบทวนการเปิดตัว ความเป็นอิสระของผู้ทำหน้าที่ตรวจสอบภายในอาจถูกมองว่าอ่อนแอลง และอาจอ่อนแอลงในทางปฏิบัติด้วย 53

ประเด็นสำคัญหลังการย้ายทีมจึงไม่ใช่เพียงว่าใครเป็นผู้บังคับบัญชาใหม่ แต่คือทีมยังสามารถเห็นข้อมูลที่จำเป็น ตั้งคำถามต่อโมเดล และทำให้ข้อกังวลถูกนำไปพิจารณาก่อนผลิตภัณฑ์จะออกสู่ผู้ใช้ได้จริงหรือไม่