AI Agent จะเอาข้อมูลหรือควบคุมคอมพิวเตอร์เราได้ไหม? คำตอบอยู่ที่สิทธิ์

จากเอกสารทางการที่ตรวจสอบได้ ความเสี่ยงด้านข้อมูลแบ่งได้เป็นหลายกลุ่มหลัก

1. ข้อมูลในเว็บไซต์หรือแอปที่คุณล็อกอินไว้

OpenAI ระบุว่า เมื่อคุณให้ ChatGPT agent ล็อกอินเข้าเว็บไซต์หรือเปิดใช้แอป มันอาจเข้าถึงข้อมูลอ่อนไหว เช่น อีเมล ไฟล์ หรือการตั้งค่าบัญชี

พูดง่าย ๆ คือ ถ้างานหนึ่งต้องให้ agent เข้าไปในบริการใดบริการหนึ่ง คุณควรถือไว้ก่อนว่าข้อมูลที่เกี่ยวข้องภายในบริการนั้นอาจถูก agent ประมวลผลได้ตามสิทธิ์ที่คุณให้

2. ข้อความ ไฟล์ และสื่อที่คุณป้อนหรืออัปโหลดเอง

นโยบายความเป็นส่วนตัวของ OpenAI ระบุว่าบริการเก็บข้อมูลที่ผู้ใช้ป้อนเข้าไป รวมถึง prompts และเนื้อหาอื่นที่อัปโหลด เช่น ไฟล์ รูปภาพ เสียง และวิดีโอ

ก่อนอัปโหลดเอกสาร จึงควรถามตัวเองก่อนว่าไฟล์นั้นมีข้อมูลอ่อนไหวหรือไม่ เช่น เอกสารส่วนตัว ข้อมูลลูกค้า เอกสารภายในองค์กร รหัสผ่าน API key หรือข้อมูลธุรกิจที่ยังไม่เปิดเผย หากไม่จำเป็นจริง ๆ ไม่ควรใส่ข้อมูลเหล่านี้เข้าไปในระบบ AI โดยตรง

3. ข้อมูลจากระบบที่เชื่อมต่อเข้ามา

นโยบายความเป็นส่วนตัวฉบับเดียวกันยังกล่าวถึงข้อมูลจากฟีเจอร์เชื่อมต่อระบบอื่นด้วย ความเสี่ยงจึงไม่ได้มาจากข้อความในช่องแชตเพียงอย่างเดียว แต่อาจมาจากบริการอื่นที่คุณเชื่อมกับเครื่องมือ AI เช่น ระบบไฟล์ อีเมล หรือระบบงานที่องค์กรเปิดให้ใช้งาน

หลักคิดที่ปลอดภัยคือ เชื่อมเท่าที่จำเป็น และถ้าไม่จำเป็นกับงานปัจจุบัน ก็ควรถอดหรือไม่เปิดการเชื่อมต่อนั้น

4. เนื้อหาและภาพหน้าจอของ agent

OpenAI ระบุว่าเนื้อหาของ ChatGPT agent รวมถึงภาพหน้าจอ อาจถูกเข้าถึงโดยบุคลากร OpenAI ที่ได้รับอนุญาตจำนวนจำกัด รวมถึงผู้ให้บริการที่เชื่อถือได้ซึ่งอยู่ภายใต้ข้อผูกพันด้านความลับและความปลอดภัย ในกรณีต่าง ๆ เช่น การสอบสวนการใช้งานในทางที่ผิดหรือเหตุการณ์ด้านความปลอดภัย การให้ความช่วยเหลือด้านบัญชี หรือการจัดการเรื่องกฎหมาย

นี่ไม่ได้แปลว่า agent ทุกตัวจะอ่านทุกอย่างของคุณโดยอัตโนมัติ แต่เมื่อคุณให้สิทธิ์ อัปโหลด หรือเชื่อมต่อระบบ ข้อมูลที่เกี่ยวข้องก็อาจเข้ามาอยู่ในขอบเขตที่บริการนั้นประมวลผลได้

AI agent จะควบคุมคอมพิวเตอร์ได้ไหม?

ต้องแยกสองเรื่องออกจากกัน: การทำงานแทนในเว็บไซต์หรือแอป กับการควบคุมคอมพิวเตอร์ทั้งเครื่องแบบไม่จำกัด

ทำงานแทนในเว็บไซต์หรือแอป: เป็นไปได้

ในกรณีของ ChatGPT agent เอกสารของ OpenAI ระบุชัดว่า เมื่อผู้ใช้ล็อกอินเว็บไซต์หรือเปิดใช้แอป agent สามารถทำบางอย่างแทนผู้ใช้ได้ เช่น แชร์ไฟล์หรือแก้ไขการตั้งค่าบัญชี

นี่คือความเสี่ยงจริง แต่ไม่ใช่ภาพแบบนิยายวิทยาศาสตร์ที่ AI ยึดเครื่องเองโดยไม่มีเงื่อนไข สิ่งที่เกิดขึ้นคือคุณมอบบางขั้นตอนของงานให้ agent และมันทำงานภายในขอบเขตที่ได้รับอนุญาต

ควบคุมทั้งเครื่องแบบไร้ขอบเขต: ยังไม่ควรสรุปแบบเหมารวม

จากแหล่งข้อมูลที่ใช้ในบทความนี้ ยังไม่มีหลักฐานเพียงพอให้สรุปว่า AI agent ทุกตัวสามารถควบคุมคอมพิวเตอร์ทั้งเครื่องได้ไม่จำกัด

ตัวอย่างเช่น เอกสารของ Microsoft Teams อธิบาย Copilot และ agents ใน Teams ในฐานะฟีเจอร์และแอปที่เกี่ยวข้องกับ Microsoft 365 Copilot เช่น ให้ผู้ใช้ถามคำถามกับ Copilot ขอความช่วยเหลือในการสร้างเนื้อหา และใช้ Copilot Pages เอกสารยังระบุชุดเครื่องมือ AI ภายใน Teams เช่น Copilot in Teams, Facilitator และ Channel Agent

กล่าวอีกแบบคือ agent บางตัวเป็นผู้ช่วยที่ทำงานในผลิตภัณฑ์หรือสภาพแวดล้อมงานเฉพาะ ไม่ได้หมายความโดยอัตโนมัติว่ามันมีสิทธิ์ควบคุมทั้งคอมพิวเตอร์ของคุณ

อย่าเหมารวมบัญชีส่วนตัว บัญชีองค์กร และ API ว่าเหมือนกัน

ชื่อแบรนด์ AI เดียวกันอาจมีเงื่อนไขข้อมูลต่างกันตามประเภทผลิตภัณฑ์และบัญชีที่ใช้

หน้า Enterprise privacy ของ OpenAI ระบุถึงคำมั่นด้าน ownership and control สำหรับ business data ซึ่งครอบคลุม inputs และ outputs จากผลิตภัณฑ์อย่าง ChatGPT Business, ChatGPT Enterprise, ChatGPT for Healthcare, ChatGPT Edu, ChatGPT for Teachers และ API Platform พร้อมกล่าวถึงข้อตกลงอย่าง Data Processing Addendum หรือ DPA สำหรับการใช้งานบางประเภท

อีกหน้าหนึ่งของ OpenAI แยกเส้นทางให้ผู้ใช้ไปดูข้อมูลเกี่ยวกับ Consumer privacy, Business data security และ Enterprise privacy ซึ่งสะท้อนว่าการใช้งานแบบผู้บริโภคทั่วไปกับการใช้งานธุรกิจหรือองค์กรไม่ควรถูกตีความเหมือนกันทั้งหมด

ถ้าคุณใช้เครื่องมือ AI ที่บริษัท โรงเรียน หรือองค์กรจัดให้ อย่าอิงจากความเข้าใจของบัญชีส่วนตัวเพียงอย่างเดียว ควรตรวจสอบเอกสารของผลิตภัณฑ์และประเภทบัญชีที่ใช้อยู่จริง

เช็กลิสต์ 1 นาทีก่อนเปิดใช้ AI agent

1. งานนี้ต้องล็อกอินเว็บไซต์หรือเปิดใช้แอปจริงไหม?
   ถ้า agent ขอให้ล็อกอินหรือเปิดแอป ให้ถือไว้ก่อนว่ามันอาจเข้าถึงข้อมูลอ่อนไหวในบริการนั้น เช่น อีเมล ไฟล์ หรือการตั้งค่าบัญชี

2. สิ่งที่จะอัปโหลดมีข้อมูลอ่อนไหวหรือไม่?
   OpenAI ระบุว่าบริการเก็บเนื้อหาที่ผู้ใช้ให้ไว้กับบริการ รวมถึง prompts ไฟล์ รูปภาพ เสียง วิดีโอ และข้อมูลจากฟีเจอร์เชื่อมต่อระบบอื่น ถ้าเป็นเอกสารสำคัญหรือข้อมูลภายใน ควรลบข้อมูลระบุตัวตนหรือใช้ไฟล์ตัวอย่างแทนเมื่อทำได้

3. งานนี้เกี่ยวกับการแชร์ไฟล์หรือแก้ไขการตั้งค่าบัญชีไหม?
   OpenAI ยกตัวอย่างการทำงานแทนผู้ใช้ เช่น การแชร์ไฟล์หรือแก้ไขการตั้งค่าบัญชี งานประเภทนี้ควรมีขั้นตอนให้คนตรวจและยืนยันก่อนเสมอ

4. มีการเชื่อมต่อที่ไม่จำเป็นหรือเปล่า?
   เพราะนโยบายความเป็นส่วนตัวครอบคลุมข้อมูลจากฟีเจอร์เชื่อมต่อระบบอื่นด้วย การลดจำนวนแอปหรือบริการที่เชื่อมต่อจึงเป็นวิธีลดความเสี่ยงที่ตรงไปตรงมา

5. คุณใช้บัญชีประเภทไหน?
   OpenAI แยกข้อมูลด้านความเป็นส่วนตัวและความปลอดภัยสำหรับผู้ใช้ทั่วไป ธุรกิจ และองค์กร และหน้า Enterprise privacy ก็ระบุรายละเอียดสำหรับผลิตภัณฑ์ธุรกิจ องค์กร การศึกษา และ API การประเมินความเสี่ยงจึงควรอิงกับผลิตภัณฑ์จริง ไม่ใช่ดูแค่คำว่า AI agent

สรุป

ความเสี่ยงด้านความเป็นส่วนตัวของ AI agent มักไม่ได้เกิดจากปุ่มลับที่ทำให้ AI เอาข้อมูลทุกอย่างไปเอง แต่เกิดจากสิ่งที่เราทำซ้ำ ๆ ได้แก่ การล็อกอิน การเชื่อมแอป การอัปโหลดไฟล์ และการอนุญาตให้มันลงมือแทน

แนวทางที่ปลอดภัยคือให้สิทธิ์เท่าที่จำเป็น เชื่อมต่อเท่าที่ต้องใช้ อัปโหลดให้น้อยที่สุด ตรวจสิทธิ์ทีละรายการ และเก็บการยืนยันโดยมนุษย์ไว้ในงานที่เกี่ยวกับการแชร์ไฟล์ แก้ไขบัญชี หรือแตะข้อมูลอ่อนไหว

หากเป็นบัญชีธุรกิจ องค์กร การศึกษา หรือ API ให้ดูเอกสารด้าน privacy และ data control ของผลิตภัณฑ์นั้นโดยตรง เพราะกติกาอาจไม่เหมือนบัญชีส่วนตัว