อัปโหลดข้อมูลเข้า AI ได้ไหม? คู่มือเช็กความเสี่ยงก่อนส่งไฟล์ให้แชตบอต

หลักคิดที่ปลอดภัยกว่าไม่ใช่การเลือกตามแบรนด์ AI แต่คือ 4 เรื่องนี้: ข้อมูลอ่อนไหวหรือไม่ บริการเก็บหรือใช้ข้อมูลอย่างไร องค์กรอนุญาตชัดเจนหรือไม่ และหากเกิดเหตุจะตามรอยกับจัดการได้ไหม NIST นำเรื่องการปกป้องข้อมูล การเก็บรักษาข้อมูล การติดตามตรวจสอบ การรับมือเหตุการณ์ ทางเลือกในการไม่ให้ใช้ข้อมูลต่อ และการควบคุมตามความเสี่ยงไว้เป็นส่วนหนึ่งของธรรมาภิบาล AI เชิงสร้างสรรค์ หากเงื่อนไขเหล่านี้ยังไม่มีคำตอบ ก็ไม่ควรอัปโหลดเอกสารต้นฉบับ.

แยกประเภทข้อมูลก่อนตัดสินใจ

5 คำถามที่ควรถามก่อนกดส่ง

ถ้าตอบข้อใดข้อหนึ่งไม่ได้ ให้หยุดก่อน และอย่านำต้นฉบับไปใส่ใน AI สาธารณะทั่วไป

1. เนื้อหามีข้อมูลส่วนบุคคลหรือข้อมูลอ่อนไหวหรือไม่? ถ้าข้อมูลอาจระบุตัวบุคคลได้ หรือมีความเสี่ยงด้านความเป็นส่วนตัว ก็ไม่ควรคัดลอกต้นฉบับไปวางตรง ๆ เอกสารของ EDPB พูดถึงความเสี่ยงด้านความเป็นส่วนตัวและแนวทางลดความเสี่ยงของระบบ LLM โดยตรง.
2. บริการจะเก็บอินพุตหรือเอาต์พุตไว้หรือไม่ และเก็บนานแค่ไหน? NIST ระบุการเก็บรักษาข้อมูลเป็นหนึ่งในประเด็นบริหารความเสี่ยงของ AI เชิงสร้างสรรค์.
3. ข้อมูลจะถูกใช้เชิงพาณิชย์ นำไปประมวลผลต่อ หรือใช้ปรับปรุงบริการหรือไม่ มีทางเลือกให้ไม่เข้าร่วมหรือไม่? NIST ระบุเรื่องการใช้เชิงพาณิชย์ การปกป้องข้อมูล การเก็บรักษาข้อมูล และทางเลือกในการถอนออกจากการใช้ข้อมูลต่อไว้ในกรอบกำกับดูแล.
4. ใครมีสิทธิ์ใช้เครื่องมือนี้ และตรวจสอบพฤติกรรมการใช้งานย้อนหลังได้หรือไม่? NIST กล่าวถึงคุณสมบัติของผู้ใช้ การหลีกเลี่ยงการใช้งานแบบไม่ระบุตัวตน และการติดตามตรวจสอบ ในทางปฏิบัติ องค์กรจึงควรรู้ว่าใครใช้ ใช้เพื่ออะไร และนำข้อมูลประเภทใดไปใช้.
5. องค์กรทำการประเมินผลกระทบ มีแผนรับมือเหตุการณ์ และใช้การควบคุมตามระดับความเสี่ยงแล้วหรือยัง? ทั้งหมดนี้เป็นหัวข้อที่อยู่ในกรอบบริหารความเสี่ยง AI เชิงสร้างสรรค์ของ NIST.

อย่าคิดว่าการพิมพ์ว่า “โปรดเก็บเป็นความลับ” ในพรอมป์จะกลายเป็นมาตรการรักษาความปลอดภัย สิ่งที่ต้องรู้จริง ๆ คือข้อมูลถูกเก็บอย่างไร ใครเข้าถึงได้ ถอนออกจากการนำไปใช้ต่อได้ไหม หากเกิดปัญหาใครรับผิดชอบ และองค์กรของคุณอนุญาตให้ใช้เครื่องมือนั้นหรือไม่.

ไฟเขียว ไฟเหลือง ไฟแดง: อะไรพอใช้ได้ อะไรควรหยุด

รายการต่อไปนี้เป็นการแปลงหลักการปกป้องข้อมูล การเก็บรักษาข้อมูล และการควบคุมตามความเสี่ยงให้เป็นเช็กลิสต์ใช้งานประจำวัน ไม่ใช่คำแนะนำทางกฎหมาย และยังต้องยึดตามนโยบายความปลอดภัยสารสนเทศ กฎหมายข้อมูลส่วนบุคคล กฎด้านเอกสาร และข้อกำหนดของหน่วยงานหรือองค์กรของคุณเป็นหลัก.

ไฟเขียว: อาจใช้ได้ แต่ยังต้องอ่านเงื่อนไข

• ข้อมูลที่เปิดเผยต่อสาธารณะแล้ว มีความอ่อนไหวต่ำ และคุณมีสิทธิ์ใช้ข้อมูลนั้น
• ข้อมูลที่ทำให้ระบุตัวตนไม่ได้แล้ว ลบช่องข้อมูลอ่อนไหวออกแล้ว หรือเขียนใหม่เป็นสรุปจนไม่สามารถย้อนกลับไปหาเจ้าของข้อมูล ลูกค้า คดี หรือความลับภายในได้อย่างสมเหตุสมผล.
• คำอธิบายปัญหาที่ให้เฉพาะบริบทจำเป็น แทนการอัปโหลดสัญญาทั้งฉบับ หนังสือราชการทั้งชุด ตารางลูกค้าทั้งไฟล์ หรือคลังโค้ดทั้งระบบ.

ข้อมูลที่เผยแพร่แล้วไม่ได้แปลว่าปลอดความเสี่ยงเสมอไป หากข้อมูลสาธารณะยังมีข้อมูลส่วนบุคคลหรือข้อมูลอ่อนไหว ก็ต้องกลับไปใช้หลักความเป็นส่วนตัวและการปกป้องข้อมูลอยู่ดี.

ไฟเหลือง: เขียนใหม่ ปิดบังข้อมูล หรือขออนุมัติก่อน

• ข้อมูลที่มีรายละเอียดของลูกค้า พนักงาน ซัพพลายเออร์ คู่กรณี ประชาชน หรือบุคคลอื่น.
• ร่างสัญญา ข้อมูลการเงิน สไลด์ภายใน บันทึกประชุม ความเห็นทางกฎหมาย หรือร่างนโยบาย.
• โค้ดต้นฉบับ เอกสารเทคนิค แผนผังระบบ โดยเฉพาะเนื้อหาที่อาจมีคีย์ ข้อมูลรับรอง หรือข้อมูลช่องโหว่ เพราะ NIST รวมการพัฒนาซอฟต์แวร์อย่างปลอดภัยและการควบคุมตามความเสี่ยงไว้ในธรรมาภิบาล AI เชิงสร้างสรรค์.
• เอกสารภายในของหน่วยงานรัฐ หนังสือราชการที่ยังไม่เปิดเผย บันทึกเสนอผู้บริหาร เอกสารคัดเลือกหรือจัดซื้อจัดจ้าง และเอกสารทำงานร่วมกันระหว่างหน่วยงาน เพราะการใช้ AI เชิงสร้างสรรค์ในภาครัฐยังต้องจัดการความเสี่ยงจากข้อมูลส่วนบุคคลหรือข้อมูลอ่อนไหว.

ข้อมูลกลุ่มนี้ไม่ได้หมายความว่า AI ห้ามแตะตลอดไป แต่ไม่ควรถูกโยนเข้า AI สาธารณะทั่วไปในสภาพที่ไม่มีการอนุมัติ ไม่มีเกณฑ์การเก็บรักษาข้อมูล ไม่มีการติดตามตรวจสอบ และไม่มีแผนรับมือเหตุการณ์.

ไฟแดง: ไม่ควรอัปโหลดเข้า AI สาธารณะทั่วไป

• ข้อมูลที่กฎหมาย สัญญา หรือระเบียบภายในห้ามเปิดเผยภายนอก
• เอกสารชั้นความลับ หรือข้อมูลที่เกี่ยวข้องกับความมั่นคง การบังคับใช้กฎหมาย การสอบสวน การจัดซื้อจัดจ้าง หรือการประเมินคัดเลือกที่มีความอ่อนไหวสูง
• รหัสผ่าน API key private key ใบรับรอง access token หรือข้อมูลใด ๆ ที่ใช้เข้าสู่ระบบได้
• ข้อมูลที่คุณไม่สามารถยืนยันแหล่งที่มา สิทธิการใช้ การเก็บรักษา การลบ และเงื่อนไขการนำไปใช้ต่อได้.

ทำให้ระบุตัวตนไม่ได้ ไม่ใช่แค่ลบชื่อออก

การลบชื่อจริงอย่างเดียวมักไม่พอ หากเลขประจำตัว เบอร์โทร อีเมล ที่อยู่ บัญชีผู้ใช้ เลขคดี ตำแหน่งงานที่พบได้ยาก หรือชุดข้อมูลวัน เวลา และสถานที่ยังชี้กลับไปหาบุคคลหรือเหตุการณ์เฉพาะได้ ความเสี่ยงด้านความเป็นส่วนตัวยังอยู่ เอกสารของ EDPB ให้ความสำคัญกับความเสี่ยงด้านความเป็นส่วนตัวและมาตรการลดความเสี่ยงในระบบ LLM ดังนั้นก่อนอัปโหลดควรเอาข้อมูลระบุตัวตน รายละเอียดที่ย้อนกลับได้ และช่องข้อมูลที่ไม่จำเป็นออกไปพร้อมกัน.

แนวทางที่ปลอดภัยกว่าคือใช้ชื่อสมมติแทนชื่อจริงหรือชื่อบริษัทจริง ให้เฉพาะข้อความส่วนที่จำเป็น เปลี่ยนเอกสารจริงให้เป็นสถานการณ์ทั่วไป สรุปรายชื่อหรือบันทึกเป็นข้อมูลรวมก่อน และถ้าจำเป็นต้องประมวลผลต้นฉบับจริง ๆ ให้ใช้เครื่องมือและขั้นตอนที่องค์กรอนุมัติ.

เอกสารราชการ: แยกข้อมูลเปิดเผยออกจากเอกสารภายใน

การใช้ AI เชิงสร้างสรรค์ในภาครัฐไม่ใช่เรื่องที่ตอบได้แค่ “ห้าม” หรือ “อนุญาต” รายงาน Generative AI Outlook ของ JRC แยกการใช้ AI เชิงสร้างสรรค์ในภาครัฐเป็นหัวข้อเฉพาะ ส่วนภาคผนวกของรัฐสภายุโรปกล่าวถึงกรณีใช้ข้อมูลทางการของ Bundestag หรือรัฐสภาเยอรมนี โดยหลีกเลี่ยงข้อมูลส่วนบุคคลหรือข้อมูลอ่อนไหว.

สิ่งที่อาจพิจารณาได้มักเป็นข้อมูลทางการที่เปิดเผยแล้ว ความเสี่ยงต่ำ และใช้ได้ตามเงื่อนไข ส่วนสิ่งที่ควรระมัดระวังสูงคือหนังสือราชการที่ยังไม่เปิดเผย บันทึกภายใน ร่างนโยบาย ข้อมูลสอบสวน ข้อมูลบังคับใช้กฎหมาย เอกสารจัดซื้อจัดจ้างหรือคัดเลือก และเอกสารใด ๆ ที่มีข้อมูลส่วนบุคคลหรือข้อมูลอ่อนไหว กลุ่มแรกยังต้องตรวจเงื่อนไขการใช้ กลุ่มหลังไม่ควรถูกส่งเข้า AI สาธารณะทั่วไปโดยตรง.

กฎตัดสินใจที่สั้นที่สุด

ถ้าข้อมูลหลุดแล้วจะทำให้บุคคล องค์กร ประโยชน์สาธารณะ หรือสถานะการปฏิบัติตามกฎเสียหาย อย่าอัปโหลดต้นฉบับเข้า AI สาธารณะทั่วไป ให้ปิดบังข้อมูล สรุป ลดข้อมูลให้เหลือเท่าที่จำเป็นก่อน หากภารกิจจำเป็นต้องใช้ต้นฉบับจริง ให้ใช้กระบวนการที่ได้รับอนุมัติและเครื่องมือที่ควบคุมได้ พร้อมตรวจเรื่องการปกป้องข้อมูล การเก็บรักษาข้อมูล สิทธิ์เข้าถึง การติดตามตรวจสอบ และการรับมือเหตุการณ์.