OpenAI Computer History: ให้ ChatGPT จำกิจกรรมบน Mac ได้โดยไม่ใช้ภาพหน้าจอ แต่ไฟล์ความจำยังไม่เข้ารหัส

จากนั้นข้อมูลเหล่านี้จะถูกนำไปสร้างเป็นไทม์ไลน์และความจำในรูปข้อความ ช่วยให้ ChatGPT หรือ Codex ตอบคำถามที่ต้องอาศัยบริบทก่อนหน้าได้ เช่น ผู้ใช้กำลังทำงานอะไร งานค้างอยู่ตรงไหน หรือก่อนหน้านี้ใช้ขั้นตอนใดในเวิร์กโฟลว์

ฟีเจอร์นี้ ปิดไว้เป็นค่าเริ่มต้น และจะทำงานเฉพาะกับแอปและเว็บไซต์ที่ผู้ใช้อนุญาตเท่านั้น ส่วนกิจกรรมจากโหมด Private หรือ Incognito ของเบราว์เซอร์จะไม่ถูกรวม

สิ่งที่ Computer History ไม่บันทึก

ตามคำอธิบายของ OpenAI ฟีเจอร์นี้ไม่บันทึกสิ่งต่อไปนี้

• ภาพหน้าจอ
• วิดีโอบันทึกหน้าจอ
• เสียงจากไมโครโฟน
• เสียงของระบบ
• กิจกรรมจากการท่องเว็บแบบส่วนตัวหรือโหมดไม่ระบุตัวตน

นี่ทำให้ Computer History แตกต่างจากระบบที่บันทึกภาพหน้าจอเป็นระยะอย่างชัดเจน อย่างไรก็ตาม หากผู้ใช้พิมพ์ข้อมูลลับลงในแอปหรือเว็บไซต์ที่รวมอยู่ในรายการ ข้อมูลจากเหตุการณ์การโต้ตอบก็อาจยังเผยให้เห็นข้อความหรือบริบทที่ละเอียดอ่อนได้

ต่างจาก Chronicle และ Microsoft Recall อย่างไร

Chronicle ใช้ภาพหน้าจอ

Computer History เข้ามาแทนที่ Chronicle รุ่นทดสอบเพื่อการวิจัย ซึ่งใช้การบันทึกภาพหน้าจอเป็นระยะเพื่อสร้างบริบทให้ AI รุ่นใหม่เปลี่ยนมาใช้สตรีมเหตุการณ์จากระบบ Accessibility ของ macOS แทน จึงไม่จำเป็นต้องเก็บพิกเซลของหน้าจอหรือเสียงเพื่อสร้างประวัติกิจกรรม

การเก็บข้อมูลแบบนี้แคบกว่า แต่ไม่ได้หมายความว่าไม่มีนัยสำคัญ ลำดับการกดแป้นพิมพ์ การคลิก และการสลับแอปอาจบอกได้ว่าผู้ใช้กำลังทำอะไร โดยเฉพาะเมื่อข้อมูลดังกล่าวถูกสรุปเป็นความจำถาวร

Microsoft Recall เน้นภาพสแนปช็อต

Microsoft Recall เป็นระบบประวัติกิจกรรมที่อาศัยภาพหน้าจอหรือสแนปช็อตเป็นหลักบนคอมพิวเตอร์ Copilot+ PC ส่วน Computer History มีเป้าหมายคล้ายกัน คือทำให้ผู้ช่วย AI ค้นหาบริบทจากกิจกรรมที่ผ่านมาได้ แต่ใช้เหตุการณ์การโต้ตอบและความจำแบบข้อความแทนคลังภาพหน้าจอ นอกจากนี้ รายงานยังระบุว่าข้อมูลเหตุการณ์ของ Computer History ถูกส่งไปประมวลผลบนเซิร์ฟเวอร์ของ OpenAI ไม่ได้เก็บเวิร์กโฟลว์ทั้งหมดไว้ในเครื่อง

ความแตกต่างในทางปฏิบัติคือ Computer History ไม่เก็บรหัสผ่าน เอกสาร บทสนทนา หรือภาพต่าง ๆ ในรูปพิกเซลของหน้าจอ แต่สตรีมเหตุการณ์ยังอาจเปิดเผยสิ่งที่ผู้ใช้พิมพ์และบริบทของการทำงานได้

ข้อมูลใดอยู่ 48 ชั่วโมง และอะไรจะอยู่ต่อ

วงจรชีวิตของข้อมูลแบ่งได้เป็น 2 ส่วน

1. ข้อมูลเหตุการณ์ชั่วคราว: ไฟล์เหตุการณ์ดิบจะถูกเก็บไว้บน Mac ได้นานสูงสุด 48 ชั่วโมง ก่อนถูกลบตามกระบวนการประมวลผลที่รายงานไว้
2. ความจำที่สร้างขึ้น: OpenAI ประมวลผลเหตุการณ์บนเซิร์ฟเวอร์เพื่อแปลงเป็นความจำที่ใช้งานได้ จากนั้นความจำดังกล่าวจะถูกเก็บไว้ในเครื่องเป็นไฟล์ Markdown แบบข้อความธรรมดา

ไฟล์ถาวรเหล่านี้สามารถเปิดอ่านและแก้ไขได้ ไม่ได้ถูกล็อกอยู่ในฐานข้อมูลที่เข้ารหัส รายงานหนึ่งระบุเส้นทางโฟลเดอร์ของความจำ Codex ว่าอยู่ใต้ $CODEX_HOME/memories/extensions/skysight/ แต่หลักฐานที่มีไม่ยืนยันว่าเส้นทางนี้เป็นตำแหน่งทางการและใช้เหมือนกันกับทุกการติดตั้ง

การลบ Computer History หรือประวัติที่บันทึกไว้ควรลบความจำในเครื่องที่เกี่ยวข้องและหยุดการเก็บข้อมูลในอนาคต แต่ข้อมูลที่มีไม่ได้ระบุตารางเวลาการลบข้อมูลฝั่งเซิร์ฟเวอร์อย่างละเอียด ดังนั้นการลบประวัติในเครื่องไม่ควรถูกตีความว่าไฟล์หรือสำเนาทุกส่วนที่เกี่ยวข้องกับการประมวลผลจะหายไปทันที ทั้งนี้ ภาระผูกพันด้านกฎหมาย ความปลอดภัย หรือการป้องกันการทุจริตอาจมีผลต่อการลบข้อมูลด้วย

ความเสี่ยงหลัก: ไฟล์ความจำในเครื่องไม่ได้เข้ารหัส

เอกสารของ OpenAI เตือนว่าไฟล์ Computer History อาจมีข้อมูลอ่อนไหว และฟีเจอร์นี้ไม่ได้เข้ารหัสไฟล์ดังกล่าว โปรแกรมอื่นที่ทำงานภายใต้บัญชีผู้ใช้ macOS เดียวกันอาจเข้าถึงไฟล์ได้

ความเสี่ยงจึงต่างจากประวัติเบราว์เซอร์ทั่วไป เพราะไฟล์ความจำอาจรวบรวมชื่อโครงการ ขั้นตอนการทำงาน แอปที่ใช้งาน ข้อมูลที่พิมพ์ และบริบทเกี่ยวกับบัญชีต่าง ๆ ไว้เป็นชุดข้อความที่อ่านและส่งออกได้ง่าย

หากมีมัลแวร์ โปรแกรมขโมยข้อมูล เครื่องมือควบคุมระยะไกล หรือโปรเซสอื่นที่ทำงานภายใต้บัญชีที่ล็อกอินอยู่ ก็อาจพยายามอ่านและส่งข้อมูลเหล่านี้ออกไปได้ การเข้ารหัสดิสก์ทั้งลูกช่วยปกป้อง Mac ที่ปิดเครื่องอยู่ แต่โดยทั่วไปไม่ได้ป้องกันซอฟต์แวร์ที่ทำงานอยู่ภายในบัญชีที่ปลดล็อกแล้วไม่ให้เข้าถึงไฟล์ที่บัญชีนั้นอ่านได้

ความเสี่ยงจาก Prompt Injection

Computer History ยังอาจเปิดช่องให้เกิด Prompt Injection ต่อเนื่องได้ คำสั่งที่ไม่น่าเชื่อถือซึ่งแสดงอยู่บนเว็บไซต์ หรือถูกพิมพ์ลงในแอปที่อนุญาต อาจถูกสรุปเข้าไปในความจำ หาก ChatGPT หรือ Codex นำความจำนั้นไปใช้เป็นบริบทที่เชื่อถือได้ ข้อความดังกล่าวก็อาจพยายามชี้นำคำตอบหรือการกระทำในอนาคตได้

นี่เป็นข้ออนุมานด้านความปลอดภัย ไม่ใช่หลักฐานว่าการโจมตีลักษณะนี้จะสำเร็จทุกครั้ง แต่ผู้ใช้ควรถือว่าข้อความจากเว็บไซต์ เอกสาร และแหล่งภายนอกเป็นข้อมูลที่ไม่น่าเชื่อถือเมื่อถูกนำไปบันทึกเป็นความจำ

ใครใช้ได้บ้าง

Computer History กำลังทยอยเปิดให้ผู้ใช้ ChatGPT Pro, Business และ Enterprise บน macOS ในช่วงเปิดตัวฟีเจอร์นี้ยังไม่พร้อมใช้งานใน เขตเศรษฐกิจยุโรป (EEA) สวิตเซอร์แลนด์ และสหราชอาณาจักร โดยมีการระบุว่าจะเปิดให้ภูมิภาคเหล่านี้ในภายหลัง

สิทธิ์การใช้งานแตกต่างกันตามแพ็กเกจ

• Pro: ผู้ใช้เปิดฟีเจอร์ด้วยตนเองได้
• Business: ผู้ดูแลเวิร์กสเปซต้องอนุญาตให้เข้าถึงก่อน จากนั้นสมาชิกแต่ละคนจึงเลือกเปิดใช้ด้วยตนเอง
• Enterprise: ผู้ดูแลระบบสามารถอนุญาตตามบทบาทได้ แต่ผู้ใช้แต่ละคนยังต้องเลือกเปิดใช้เอง และอาจต้องอัปเดตแอปเดสก์ท็อปเป็นเวอร์ชันที่ใหม่เพียงพอเพื่อให้การควบคุมมีผล

ข้อมูลเปิดตัวที่มีอยู่ไม่ได้ยืนยันกฎเฉพาะของ Computer History เกี่ยวกับการนำข้อมูลไปฝึกโมเดลสำหรับทุกแพ็กเกจ ผู้ใช้ Business และ Enterprise ควรยึดการควบคุมข้อมูลของเวิร์กสเปซ ส่วนผู้ใช้ Pro ควรตรวจสอบการตั้งค่าเกี่ยวกับการปรับปรุงโมเดลในบัญชีของตนเอง แทนการสรุปไปก่อนว่า Computer History ถูกยกเว้นจากการใช้งานลักษณะนี้โดยอัตโนมัติ

ผู้ใช้และผู้ดูแลระบบควบคุมอะไรได้บ้าง

ผู้ใช้สามารถ

• เลือกเปิดใช้หรือปล่อยให้ฟีเจอร์ปิดอยู่
• หยุดชั่วคราวหรือปิดการเก็บข้อมูล
• เลือกแอปและเว็บไซต์ที่จะนำข้อมูลมาใช้
• ตรวจสอบรายการในไทม์ไลน์
• ลบประวัติและความจำที่บันทึกไว้

สำหรับ Business และ Enterprise ผู้ดูแลระบบสามารถกำหนดได้ว่าสมาชิกมีสิทธิ์เข้าถึงฟีเจอร์หรือไม่ แต่ยังไม่สามารถเปิดใช้งานแทนสมาชิกทุกคนอย่างเงียบ ๆ ได้ เพราะผู้ใช้ต้องยินยอมเป็นรายบุคคลก่อน

หากนำไปใช้ในองค์กร ควรพิจารณาไม่นำโปรแกรมจัดการรหัสผ่าน ระบบการเงิน สุขภาพ และกฎหมาย คอนโซลผู้ดูแลระบบที่มีสิทธิ์สูง เครื่องมือจัดการซอร์สโค้ดหรือรับมือเหตุการณ์ลับ รวมถึงแอปสื่อสารที่มีข้อมูลส่วนตัวของบุคคลอื่นเข้าไปในรายการ การตั้งค่าเหล่านี้เป็นแนวทางปฏิบัติ ไม่ใช่การรับประกันว่าระบบจะกรองข้อมูลอ่อนไหวทุกชนิดได้โดยอัตโนมัติ

ความเป็นไปได้เรื่อง Skills และระบบอัตโนมัติ

ประโยชน์ระยะยาวที่น่าสนใจคือการสร้าง “ความจำเชิงกระบวนการ” ไทม์ไลน์ที่แสดงลำดับการทำงานที่ประสบความสำเร็จอาจช่วยให้ Codex เรียบเรียงเวิร์กโฟลว์นั้นเป็นเช็กลิสต์ สคริปต์ หรือสกิลที่นำกลับมาใช้ซ้ำได้

ตัวอย่างเช่น ผู้ใช้อาจขอให้ช่วยทบทวนขั้นตอนจัดทำรายงานที่เคยทำไว้ช่วงต้นสัปดาห์ แต่สิ่งนี้ยังเป็นเพียงความเป็นไปได้ของเวิร์กโฟลว์ที่อาศัยบริบทจากประวัติ ไม่ใช่หลักฐานว่า Computer History สามารถสร้างหรือรันระบบอัตโนมัติตามกำหนดเวลาได้เองในปัจจุบัน

หากนำประวัติลักษณะนี้ไปต่อยอดเป็นระบบอัตโนมัติ ควรกำหนดให้มีการอนุมัติอย่างชัดเจน จำกัดสิทธิ์การทำงาน ตรวจสอบขั้นตอนได้ และมีมาตรการป้องกันคำสั่งแฝงจากเว็บไซต์ เอกสาร หรือข้อความสื่อสาร

สรุป: ไม่ใช่การสอดส่องด้วยภาพ แต่ก็ไม่ใช่ไร้ความเสี่ยง

Computer History ควรถูกมองว่าเป็น ความจำ AI ที่สร้างจากเหตุการณ์การใช้งาน ไม่ใช่ระบบเฝ้าดูหน้าจอด้วยภาพ ฟีเจอร์นี้ลดปริมาณข้อมูลภาพและเสียงที่ต้องเก็บเมื่อเทียบกับ Chronicle หรือระบบสแนปช็อตอย่าง Recall ขณะเดียวกันก็ยังมอบบันทึกกิจกรรมจากแอปและเว็บไซต์ที่เลือกให้ ChatGPT กับ Codex ใช้ต่อได้

ข้อแลกเปลี่ยนนี้อาจมีประโยชน์สำหรับผู้ที่ต้องกลับมาทำเวิร์กโฟลว์ซับซ้อนบ่อย ๆ แต่ไฟล์ความจำ Markdown ในเครื่องที่ไม่เข้ารหัสถือเป็นประเด็นสำคัญ ผู้ที่เปิดใช้ควรจำกัดรายการแอปและเว็บไซต์ให้แคบที่สุด ไม่นำระบบความเสี่ยงสูงเข้าร่วม หยุดการเก็บข้อมูลเมื่อจัดการข้อมูลลับ และตรวจสอบหรือลบความจำที่สร้างขึ้นเป็นประจำ