ใครจะได้ใช้ ChatGPT สำหรับวัยรุ่น

บัญชีจะถูกนำเข้าสู่ประสบการณ์สำหรับวัยรุ่นโดยอัตโนมัติ หากข้อมูลอายุในบัญชีระบุว่าผู้ใช้มีอายุ 13–17 ปี หรือระบบคาดการณ์อายุของ OpenAI ประเมินว่าผู้ใช้น่าจะมีอายุต่ำกว่า 18 ปี บริษัทระบุว่า หากระบบไม่แน่ใจ จะเลือกใช้การตั้งค่าที่ปลอดภัยกว่าสำหรับผู้ใช้อายุต่ำกว่า 18 ปีเป็นหลัก

แต่กระบวนการนี้ไม่ใช่การยืนยันอายุที่แม่นยำ 100% ระบบอาจเกิดผลบวกลวงจนจำกัดการใช้งานของผู้ใหญ่ หรือเกิดผลลบลวงจนผู้เยาว์บางส่วนยังอยู่ในประสบการณ์มาตรฐานได้ นอกจากนี้ ผู้ใช้อาจกรอกอายุไม่ตรงจริง หรือใช้บัญชีของผู้อื่น ดังนั้นหลักฐานที่มีอยู่จึงสนับสนุนให้มองการคาดการณ์อายุเป็นมาตรการป้องกันอย่างหนึ่ง ไม่ใช่ระบบรับรองอายุที่สมบูรณ์

Study Mode และเครื่องมือช่วยทำการบ้านทำงานอย่างไร

OpenAI พยายามวาง ChatGPT สำหรับวัยรุ่นให้เป็น “คู่ช่วยเรียน” มากกว่าเครื่องมือที่มีหน้าที่เฉลยคำตอบทันที โดยมีฟีเจอร์สำคัญดังนี้

• Study Mode ใช้คำถามชี้นำ การช่วยอธิบายทีละขั้น การแบ่งโจทย์ให้เหมาะกับระดับความรู้ และการตรวจความเข้าใจ เพื่อให้วัยรุ่นค่อย ๆ คิดและแก้ปัญหาด้วยตัวเอง OpenAI ระบุว่าฟีเจอร์นี้พัฒนาร่วมกับครู นักวิทยาศาสตร์ และผู้เชี่ยวชาญด้านการเรียนการสอน
• Responsible Homework Reminder อาจตรวจจับคำขอที่ดูเหมือนต้องการลัดขั้นตอนหรือให้ AI ทำการบ้านแทน แล้วแนะนำให้ผู้ใช้เปลี่ยนไปใช้ Study Mode เพื่อแก้โจทย์ร่วมกันทีละขั้น ฟีเจอร์นี้เป็นการสะกิดเตือน ไม่ใช่ระบบตรวจจับการทุจริตที่รับประกันความแม่นยำทุกครั้ง
• แบบทดสอบและเครื่องมือฝึกฝน ช่วยให้ผู้ใช้สร้างหรือทำแบบทดสอบ ฝึกตอบคำถาม และตรวจสอบว่าตัวเองเข้าใจเนื้อหามากน้อยเพียงใดเมื่อฟีเจอร์ดังกล่าวพร้อมใช้งาน
• Study Hours ช่วยกำหนดช่วงเวลาที่แชตใหม่ซึ่งเข้าเกณฑ์จะเริ่มต้นใน Study Mode การตั้งค่านี้เป็นการกำหนดวิธีเริ่มต้นของแชต ไม่ได้ปิดกั้นการเข้าถึง ChatGPT ทั้งหมด

แนวทางดังกล่าวสอดคล้องกับเป้าหมายที่ OpenAI ประกาศไว้ว่า ต้องการช่วยให้เกิดการเรียนรู้โดยไม่ทำงานโรงเรียนแทนนักเรียนทั้งหมด แต่ก็ไม่ได้รับประกันว่าคำตอบทุกครั้งจะเหมาะสมทางการศึกษา หรือผู้ใช้ทุกคนจะใช้ระบบอย่างซื่อสัตย์

ผู้ปกครองควบคุมอะไรได้บ้าง

ผู้ปกครองหรือผู้ดูแลสามารถเลือกเชื่อมบัญชีของตนกับบัญชีของวัยรุ่นผ่านเมนู Parental Controls เมื่อเชื่อมแล้ว ผู้ใหญ่จะจัดการการตั้งค่าด้านความปลอดภัยและผลิตภัณฑ์บางรายการได้ เช่น การป้องกันเนื้อหาอ่อนไหว หน่วยความจำที่บันทึกไว้ การอนุญาตให้นำข้อมูลไปฝึกโมเดล Voice Mode และเครื่องมือบางอย่าง เช่น การสร้างภาพ Cloud Browser และการเข้าถึงเครือข่ายของ Codex

นอกจากนี้ยังสามารถ

• ตั้ง Study Mode ให้เป็นโหมดเริ่มต้นของแชตใหม่ที่เข้าเกณฑ์
• กำหนด Study Hours ให้แชตใหม่เริ่มต้นใน Study Mode ตามช่วงเวลาที่เลือก
• ตั้ง Quiet Hours ซึ่งเป็นช่วงเวลาที่วัยรุ่นไม่สามารถใช้ ChatGPT ได้ รวมถึง ChatGPT Work
• รับการแจ้งเตือนด้านความปลอดภัยในสถานการณ์ความเสี่ยงสูงบางประเภท

อย่างไรก็ดี Parental Controls ไม่ใช่แดชบอร์ดสำหรับสอดส่องทุกกิจกรรม ผู้ปกครองจะไม่ได้รับข้อความ ถอดความ หรือประวัติการสนทนาของวัยรุ่น และการแจ้งเตือนก็ไม่ใช่การติดตามแบบเรียลไทม์

การเตือนให้พักและการแจ้งเตือนความปลอดภัยมีไว้ทำอะไร

ChatGPT สำหรับวัยรุ่นมีการเตือนให้พัก เพื่อกระตุ้นให้ผู้ใช้หยุดพักและวางอุปกรณ์ลงหลังใช้งานต่อเนื่องเป็นเวลานาน OpenAI ระบุว่าจะเพิ่มความถี่ของการเตือนสำหรับวัยรุ่นที่ใช้ ChatGPT เป็นเวลานาน ขณะที่รายงานเกี่ยวกับการเปิดตัวระบุถึงการแจ้งเตือนหลังมีกิจกรรมใช้งาน 90 นาทีภายในช่วงเวลา 3 ชั่วโมง

ส่วนการแจ้งเตือนด้านความปลอดภัยถูกออกแบบมาให้ครอบคลุมอย่างจำกัด OpenAI ระบุว่าผู้ปกครองที่เชื่อมบัญชีอาจได้รับแจ้งเมื่อผู้ตรวจสอบที่ผ่านการฝึกอบรมเฉพาะทางพบสัญญาณร้ายแรงเกี่ยวกับการทำร้ายตัวเอง การแจ้งเตือนบางกรณีอาจเกี่ยวข้องกับการปิดบัญชีจากบทสนทนาเรื่องการใช้ความรุนแรง และ OpenAI ยังระบุถึงการขยายความครอบคลุมไปยังประเด็นโรคการกินผิดปกติด้วย

การแจ้งเตือนอาจพลาดสัญญาณอันตรายบางอย่าง และไม่ควรใช้แทนบริการฉุกเฉิน การดูแลจากผู้เชี่ยวชาญ หรือการพูดคุยโดยตรงกับผู้ใหญ่ที่ไว้ใจได้

การปกป้องผู้ใช้อายุต่ำกว่า 18 ปีเข้มงวดขึ้นอย่างไร

OpenAI ระบุว่าประสบการณ์สำหรับวัยรุ่นจะเพิ่มมาตรการด้านพฤติกรรมและผลิตภัณฑ์ในหัวข้อที่อาจมีความเสี่ยงเป็นพิเศษต่อผู้เยาว์ ได้แก่

การทำร้ายตัวเองและการฆ่าตัวตาย

คำตอบควรอยู่ภายใต้ข้อจำกัดที่เข้มงวดขึ้น และใช้แนวทางที่มุ่งส่งต่อหรือเชื่อมโยงผู้ใช้กับความช่วยเหลือในกรณีร้ายแรง รวมถึงมีช่องทางแจ้งเตือนผู้ปกครองที่เชื่อมบัญชีในบางสถานการณ์

โรคการกินผิดปกติและกิจกรรมอันตราย

มาตรการป้องกันมีเป้าหมายเพื่อลดคำแนะนำที่อาจก่ออันตราย รวมถึงการเปิดเผยเนื้อหาที่โจ่งแจ้งหรือไม่เหมาะกับพัฒนาการของผู้เยาว์ โดยประเด็นโรคการกินผิดปกติอยู่ในขอบเขตการแจ้งเตือนที่ OpenAI ระบุเพิ่มเติมด้วย

ความรุนแรง

ประสบการณ์สำหรับวัยรุ่นใช้ข้อจำกัดที่เข้มงวดขึ้นกับเนื้อหาความรุนแรงและกิจกรรมอันตราย ในบางกรณีที่เกี่ยวข้องกับการกระทำรุนแรง บัญชีอาจถูกปิด และผู้ปกครองที่เชื่อมบัญชีอาจได้รับการแจ้งเตือนแบบจำกัด

เนื้อหาทางเพศและบทบาทสมมติเชิงโรแมนติก

OpenAI ระบุว่าการปกป้องผู้ใช้อายุต่ำกว่า 18 ปีจะจำกัดเนื้อหาทางเพศหรือเนื้อหากราฟิกที่ชัดเจน รวมถึงการสวมบทบาทที่มีลักษณะทางเพศหรือโรแมนติกมากขึ้น การตั้งค่าของผู้ปกครองที่เชื่อมบัญชียังสามารถเพิ่มตัวกรองสำหรับบทบาทสมมติทางเพศหรือโรแมนติก บทบาทสมมติที่มีความรุนแรง และหมวดเนื้อหาอ่อนไหวอื่น ๆ ได้

การพึ่งพาทางอารมณ์และการอ้างว่ามีจิตสำนึก

กฎด้านพฤติกรรมสำหรับผู้ใช้อายุต่ำกว่า 18 ปีมีเป้าหมายไม่ให้โมเดลใช้ภาษาสื่อความรักเชิงโรแมนติกกับวัยรุ่น สนับสนุนให้เกิดการพึ่งพาทางอารมณ์ หรือสื่อว่าตนเองมีความรู้สึกและจิตสำนึก เป้าหมายที่ระบุไว้คือการส่งเสริมให้วัยรุ่นรักษาความสัมพันธ์ที่ดีกับผู้คนและโลกภายนอกแชตบอต

ทั้งหมดนี้เป็นนโยบายและพฤติกรรมที่ออกแบบไว้ในผลิตภัณฑ์ ไม่ใช่หลักฐานว่าระบบจะบล็อกคำขอที่ไม่ปลอดภัยได้ทุกครั้ง หรือตรวจพบทุกบทสนทนาที่มีความเสี่ยง

ทำไม OpenAI จึงเปิดตัวตอนนี้

OpenAI นำเสนอ ChatGPT สำหรับวัยรุ่นในฐานะความพยายามทำให้การใช้ AI เชิงสร้างสรรค์ของคนหนุ่มสาวเหมาะกับวัยและเน้นการเรียนรู้มากขึ้น แทนที่จะกีดกันวัยรุ่นออกจากเทคโนโลยีโดยสิ้นเชิง การเปิดตัวครั้งนี้ต่อยอดจากงานก่อนหน้าเรื่องการควบคุมโดยผู้ปกครอง การคาดการณ์อายุ แนวทางความปลอดภัยสำหรับวัยรุ่น และกฎพฤติกรรมของโมเดลสำหรับผู้ใช้อายุต่ำกว่า 18 ปี

จังหวะเวลายังสะท้อนแรงกดดันที่เพิ่มขึ้นต่อแชตบอตเกี่ยวกับบทบาทที่อาจมีต่อบทสนทนาเรื่องการทำร้ายตัวเอง คำแนะนำที่ไม่ปลอดภัย ปฏิสัมพันธ์เชิงเพศ การพึ่งพาทางอารมณ์ และการใช้งานแบบควบคุมไม่ได้ในกลุ่มเด็ก ขณะเดียวกัน แพลตฟอร์มโซเชียลขนาดใหญ่ก็ทยอยขยายบัญชีวัยรุ่น ระบบประเมินอายุ การจำกัดเนื้อหา เครื่องมือกำกับดูแล และการเตือนให้พัก ทำให้การเปิดตัวนี้พา OpenAI เข้ามาอยู่ในสนามแข่งขันที่กว้างขึ้นว่า ผลิตภัณฑ์ AI สำหรับผู้บริโภคควรให้บริการและจำกัดการใช้งานของคนรุ่นเยาว์อย่างไร

ข้อจำกัดที่ผู้ปกครองและวัยรุ่นควรรู้

คำถามสำคัญที่สุดยังเป็นเรื่องประสิทธิผล ผู้เชี่ยวชาญด้านความปลอดภัยเด็กและนักวิจารณ์บางส่วนยินดีกับการตั้งค่าเริ่มต้นที่เข้มงวดขึ้น แต่ยังตั้งข้อสงสัยว่าระบบป้องกันอัตโนมัติจะรับมือกับการใช้จริงและการปรับเปลี่ยนคำสั่งได้สม่ำเสมอเพียงใด

ข้อจำกัดในทางปฏิบัติมีอย่างน้อย 4 ประการ

1. การตรวจจับอายุอาจผิดพลาด การเลือกใช้การตั้งค่าที่ปลอดภัยกว่าเมื่อไม่แน่ใจช่วยลดความเสี่ยงบางส่วน แต่ไม่รับประกันว่าจะระบุผู้เยาว์ได้ครบทุกคน
2. ระบบป้องกันไม่ใช่เกราะที่ไร้ช่องโหว่ นโยบายที่เข้มงวดขึ้นไม่ได้หมายความว่าจะไม่มีคำตอบที่เป็นอันตรายหลุดออกมา
3. Parental Controls ต้องเปิดใช้และเชื่อมบัญชีโดยสมัครใจ ผู้ปกครองจะได้เครื่องมือควบคุมบางรายการ ไม่ใช่สิทธิ์เข้าถึงบทสนทนาทั้งหมด
4. การแจ้งเตือนมีขอบเขตจำกัดและไม่ได้ออกแบบมาให้ตอบสนองเหตุฉุกเฉิน ระบบไม่ใช่การเฝ้าระวังต่อเนื่อง และไม่ควรถูกมองว่าเป็นระบบรับมือเหตุฉุกเฉิน

ข้อสรุปที่สอดคล้องกับหลักฐานมากที่สุดจึงไม่ใช่การบอกว่า “ChatGPT สำหรับวัยรุ่นปลอดภัย” แต่คือ OpenAI ได้สร้างค่าเริ่มต้นที่เข้มงวดและเน้นการเรียนรู้มากขึ้นสำหรับผู้ใช้อายุต่ำกว่า 18 ปี พร้อมเครื่องมือสำหรับครอบครัวและมาตรการป้องกันแบบเจาะจง ส่วนมาตรการเหล่านี้จะทำงานได้อย่างน่าเชื่อถือเพียงใดในการสนทนาจริง ยังคงเป็นคำถามที่ต้องอาศัยการทดสอบต่อเนื่องและการประเมินอย่างเป็นอิสระ

ใครจะได้ใช้ ChatGPT สำหรับวัยรุ่น

บัญชีจะถูกนำเข้าสู่ประสบการณ์สำหรับวัยรุ่นโดยอัตโนมัติ หากข้อมูลอายุในบัญชีระบุว่าผู้ใช้มีอายุ 13–17 ปี หรือระบบคาดการณ์อายุของ OpenAI ประเมินว่าผู้ใช้น่าจะมีอายุต่ำกว่า 18 ปี บริษัทระบุว่า หากระบบไม่แน่ใจ จะเลือกใช้การตั้งค่าที่ปลอดภัยกว่าสำหรับผู้ใช้อายุต่ำกว่า 18 ปีเป็นหลัก

แต่กระบวนการนี้ไม่ใช่การยืนยันอายุที่แม่นยำ 100% ระบบอาจเกิดผลบวกลวงจนจำกัดการใช้งานของผู้ใหญ่ หรือเกิดผลลบลวงจนผู้เยาว์บางส่วนยังอยู่ในประสบการณ์มาตรฐานได้ นอกจากนี้ ผู้ใช้อาจกรอกอายุไม่ตรงจริง หรือใช้บัญชีของผู้อื่น ดังนั้นหลักฐานที่มีอยู่จึงสนับสนุนให้มองการคาดการณ์อายุเป็นมาตรการป้องกันอย่างหนึ่ง ไม่ใช่ระบบรับรองอายุที่สมบูรณ์

Study Mode และเครื่องมือช่วยทำการบ้านทำงานอย่างไร

OpenAI พยายามวาง ChatGPT สำหรับวัยรุ่นให้เป็น “คู่ช่วยเรียน” มากกว่าเครื่องมือที่มีหน้าที่เฉลยคำตอบทันที โดยมีฟีเจอร์สำคัญดังนี้

• Study Mode ใช้คำถามชี้นำ การช่วยอธิบายทีละขั้น การแบ่งโจทย์ให้เหมาะกับระดับความรู้ และการตรวจความเข้าใจ เพื่อให้วัยรุ่นค่อย ๆ คิดและแก้ปัญหาด้วยตัวเอง OpenAI ระบุว่าฟีเจอร์นี้พัฒนาร่วมกับครู นักวิทยาศาสตร์ และผู้เชี่ยวชาญด้านการเรียนการสอน
• Responsible Homework Reminder อาจตรวจจับคำขอที่ดูเหมือนต้องการลัดขั้นตอนหรือให้ AI ทำการบ้านแทน แล้วแนะนำให้ผู้ใช้เปลี่ยนไปใช้ Study Mode เพื่อแก้โจทย์ร่วมกันทีละขั้น ฟีเจอร์นี้เป็นการสะกิดเตือน ไม่ใช่ระบบตรวจจับการทุจริตที่รับประกันความแม่นยำทุกครั้ง
• แบบทดสอบและเครื่องมือฝึกฝน ช่วยให้ผู้ใช้สร้างหรือทำแบบทดสอบ ฝึกตอบคำถาม และตรวจสอบว่าตัวเองเข้าใจเนื้อหามากน้อยเพียงใดเมื่อฟีเจอร์ดังกล่าวพร้อมใช้งาน
• Study Hours ช่วยกำหนดช่วงเวลาที่แชตใหม่ซึ่งเข้าเกณฑ์จะเริ่มต้นใน Study Mode การตั้งค่านี้เป็นการกำหนดวิธีเริ่มต้นของแชต ไม่ได้ปิดกั้นการเข้าถึง ChatGPT ทั้งหมด

แนวทางดังกล่าวสอดคล้องกับเป้าหมายที่ OpenAI ประกาศไว้ว่า ต้องการช่วยให้เกิดการเรียนรู้โดยไม่ทำงานโรงเรียนแทนนักเรียนทั้งหมด แต่ก็ไม่ได้รับประกันว่าคำตอบทุกครั้งจะเหมาะสมทางการศึกษา หรือผู้ใช้ทุกคนจะใช้ระบบอย่างซื่อสัตย์

ผู้ปกครองควบคุมอะไรได้บ้าง

ผู้ปกครองหรือผู้ดูแลสามารถเลือกเชื่อมบัญชีของตนกับบัญชีของวัยรุ่นผ่านเมนู Parental Controls เมื่อเชื่อมแล้ว ผู้ใหญ่จะจัดการการตั้งค่าด้านความปลอดภัยและผลิตภัณฑ์บางรายการได้ เช่น การป้องกันเนื้อหาอ่อนไหว หน่วยความจำที่บันทึกไว้ การอนุญาตให้นำข้อมูลไปฝึกโมเดล Voice Mode และเครื่องมือบางอย่าง เช่น การสร้างภาพ Cloud Browser และการเข้าถึงเครือข่ายของ Codex

นอกจากนี้ยังสามารถ

• ตั้ง Study Mode ให้เป็นโหมดเริ่มต้นของแชตใหม่ที่เข้าเกณฑ์
• กำหนด Study Hours ให้แชตใหม่เริ่มต้นใน Study Mode ตามช่วงเวลาที่เลือก
• ตั้ง Quiet Hours ซึ่งเป็นช่วงเวลาที่วัยรุ่นไม่สามารถใช้ ChatGPT ได้ รวมถึง ChatGPT Work
• รับการแจ้งเตือนด้านความปลอดภัยในสถานการณ์ความเสี่ยงสูงบางประเภท

อย่างไรก็ดี Parental Controls ไม่ใช่แดชบอร์ดสำหรับสอดส่องทุกกิจกรรม ผู้ปกครองจะไม่ได้รับข้อความ ถอดความ หรือประวัติการสนทนาของวัยรุ่น และการแจ้งเตือนก็ไม่ใช่การติดตามแบบเรียลไทม์

การเตือนให้พักและการแจ้งเตือนความปลอดภัยมีไว้ทำอะไร

ChatGPT สำหรับวัยรุ่นมีการเตือนให้พัก เพื่อกระตุ้นให้ผู้ใช้หยุดพักและวางอุปกรณ์ลงหลังใช้งานต่อเนื่องเป็นเวลานาน OpenAI ระบุว่าจะเพิ่มความถี่ของการเตือนสำหรับวัยรุ่นที่ใช้ ChatGPT เป็นเวลานาน ขณะที่รายงานเกี่ยวกับการเปิดตัวระบุถึงการแจ้งเตือนหลังมีกิจกรรมใช้งาน 90 นาทีภายในช่วงเวลา 3 ชั่วโมง

ส่วนการแจ้งเตือนด้านความปลอดภัยถูกออกแบบมาให้ครอบคลุมอย่างจำกัด OpenAI ระบุว่าผู้ปกครองที่เชื่อมบัญชีอาจได้รับแจ้งเมื่อผู้ตรวจสอบที่ผ่านการฝึกอบรมเฉพาะทางพบสัญญาณร้ายแรงเกี่ยวกับการทำร้ายตัวเอง การแจ้งเตือนบางกรณีอาจเกี่ยวข้องกับการปิดบัญชีจากบทสนทนาเรื่องการใช้ความรุนแรง และ OpenAI ยังระบุถึงการขยายความครอบคลุมไปยังประเด็นโรคการกินผิดปกติด้วย

การแจ้งเตือนอาจพลาดสัญญาณอันตรายบางอย่าง และไม่ควรใช้แทนบริการฉุกเฉิน การดูแลจากผู้เชี่ยวชาญ หรือการพูดคุยโดยตรงกับผู้ใหญ่ที่ไว้ใจได้

การปกป้องผู้ใช้อายุต่ำกว่า 18 ปีเข้มงวดขึ้นอย่างไร

OpenAI ระบุว่าประสบการณ์สำหรับวัยรุ่นจะเพิ่มมาตรการด้านพฤติกรรมและผลิตภัณฑ์ในหัวข้อที่อาจมีความเสี่ยงเป็นพิเศษต่อผู้เยาว์ ได้แก่

การทำร้ายตัวเองและการฆ่าตัวตาย

คำตอบควรอยู่ภายใต้ข้อจำกัดที่เข้มงวดขึ้น และใช้แนวทางที่มุ่งส่งต่อหรือเชื่อมโยงผู้ใช้กับความช่วยเหลือในกรณีร้ายแรง รวมถึงมีช่องทางแจ้งเตือนผู้ปกครองที่เชื่อมบัญชีในบางสถานการณ์

โรคการกินผิดปกติและกิจกรรมอันตราย

มาตรการป้องกันมีเป้าหมายเพื่อลดคำแนะนำที่อาจก่ออันตราย รวมถึงการเปิดเผยเนื้อหาที่โจ่งแจ้งหรือไม่เหมาะกับพัฒนาการของผู้เยาว์ โดยประเด็นโรคการกินผิดปกติอยู่ในขอบเขตการแจ้งเตือนที่ OpenAI ระบุเพิ่มเติมด้วย

ความรุนแรง

ประสบการณ์สำหรับวัยรุ่นใช้ข้อจำกัดที่เข้มงวดขึ้นกับเนื้อหาความรุนแรงและกิจกรรมอันตราย ในบางกรณีที่เกี่ยวข้องกับการกระทำรุนแรง บัญชีอาจถูกปิด และผู้ปกครองที่เชื่อมบัญชีอาจได้รับการแจ้งเตือนแบบจำกัด

เนื้อหาทางเพศและบทบาทสมมติเชิงโรแมนติก

OpenAI ระบุว่าการปกป้องผู้ใช้อายุต่ำกว่า 18 ปีจะจำกัดเนื้อหาทางเพศหรือเนื้อหากราฟิกที่ชัดเจน รวมถึงการสวมบทบาทที่มีลักษณะทางเพศหรือโรแมนติกมากขึ้น การตั้งค่าของผู้ปกครองที่เชื่อมบัญชียังสามารถเพิ่มตัวกรองสำหรับบทบาทสมมติทางเพศหรือโรแมนติก บทบาทสมมติที่มีความรุนแรง และหมวดเนื้อหาอ่อนไหวอื่น ๆ ได้

การพึ่งพาทางอารมณ์และการอ้างว่ามีจิตสำนึก

กฎด้านพฤติกรรมสำหรับผู้ใช้อายุต่ำกว่า 18 ปีมีเป้าหมายไม่ให้โมเดลใช้ภาษาสื่อความรักเชิงโรแมนติกกับวัยรุ่น สนับสนุนให้เกิดการพึ่งพาทางอารมณ์ หรือสื่อว่าตนเองมีความรู้สึกและจิตสำนึก เป้าหมายที่ระบุไว้คือการส่งเสริมให้วัยรุ่นรักษาความสัมพันธ์ที่ดีกับผู้คนและโลกภายนอกแชตบอต

ทั้งหมดนี้เป็นนโยบายและพฤติกรรมที่ออกแบบไว้ในผลิตภัณฑ์ ไม่ใช่หลักฐานว่าระบบจะบล็อกคำขอที่ไม่ปลอดภัยได้ทุกครั้ง หรือตรวจพบทุกบทสนทนาที่มีความเสี่ยง

ทำไม OpenAI จึงเปิดตัวตอนนี้

OpenAI นำเสนอ ChatGPT สำหรับวัยรุ่นในฐานะความพยายามทำให้การใช้ AI เชิงสร้างสรรค์ของคนหนุ่มสาวเหมาะกับวัยและเน้นการเรียนรู้มากขึ้น แทนที่จะกีดกันวัยรุ่นออกจากเทคโนโลยีโดยสิ้นเชิง การเปิดตัวครั้งนี้ต่อยอดจากงานก่อนหน้าเรื่องการควบคุมโดยผู้ปกครอง การคาดการณ์อายุ แนวทางความปลอดภัยสำหรับวัยรุ่น และกฎพฤติกรรมของโมเดลสำหรับผู้ใช้อายุต่ำกว่า 18 ปี

จังหวะเวลายังสะท้อนแรงกดดันที่เพิ่มขึ้นต่อแชตบอตเกี่ยวกับบทบาทที่อาจมีต่อบทสนทนาเรื่องการทำร้ายตัวเอง คำแนะนำที่ไม่ปลอดภัย ปฏิสัมพันธ์เชิงเพศ การพึ่งพาทางอารมณ์ และการใช้งานแบบควบคุมไม่ได้ในกลุ่มเด็ก ขณะเดียวกัน แพลตฟอร์มโซเชียลขนาดใหญ่ก็ทยอยขยายบัญชีวัยรุ่น ระบบประเมินอายุ การจำกัดเนื้อหา เครื่องมือกำกับดูแล และการเตือนให้พัก ทำให้การเปิดตัวนี้พา OpenAI เข้ามาอยู่ในสนามแข่งขันที่กว้างขึ้นว่า ผลิตภัณฑ์ AI สำหรับผู้บริโภคควรให้บริการและจำกัดการใช้งานของคนรุ่นเยาว์อย่างไร

ข้อจำกัดที่ผู้ปกครองและวัยรุ่นควรรู้

คำถามสำคัญที่สุดยังเป็นเรื่องประสิทธิผล ผู้เชี่ยวชาญด้านความปลอดภัยเด็กและนักวิจารณ์บางส่วนยินดีกับการตั้งค่าเริ่มต้นที่เข้มงวดขึ้น แต่ยังตั้งข้อสงสัยว่าระบบป้องกันอัตโนมัติจะรับมือกับการใช้จริงและการปรับเปลี่ยนคำสั่งได้สม่ำเสมอเพียงใด

ข้อจำกัดในทางปฏิบัติมีอย่างน้อย 4 ประการ

1. การตรวจจับอายุอาจผิดพลาด การเลือกใช้การตั้งค่าที่ปลอดภัยกว่าเมื่อไม่แน่ใจช่วยลดความเสี่ยงบางส่วน แต่ไม่รับประกันว่าจะระบุผู้เยาว์ได้ครบทุกคน
2. ระบบป้องกันไม่ใช่เกราะที่ไร้ช่องโหว่ นโยบายที่เข้มงวดขึ้นไม่ได้หมายความว่าจะไม่มีคำตอบที่เป็นอันตรายหลุดออกมา
3. Parental Controls ต้องเปิดใช้และเชื่อมบัญชีโดยสมัครใจ ผู้ปกครองจะได้เครื่องมือควบคุมบางรายการ ไม่ใช่สิทธิ์เข้าถึงบทสนทนาทั้งหมด
4. การแจ้งเตือนมีขอบเขตจำกัดและไม่ได้ออกแบบมาให้ตอบสนองเหตุฉุกเฉิน ระบบไม่ใช่การเฝ้าระวังต่อเนื่อง และไม่ควรถูกมองว่าเป็นระบบรับมือเหตุฉุกเฉิน

ข้อสรุปที่สอดคล้องกับหลักฐานมากที่สุดจึงไม่ใช่การบอกว่า “ChatGPT สำหรับวัยรุ่นปลอดภัย” แต่คือ OpenAI ได้สร้างค่าเริ่มต้นที่เข้มงวดและเน้นการเรียนรู้มากขึ้นสำหรับผู้ใช้อายุต่ำกว่า 18 ปี พร้อมเครื่องมือสำหรับครอบครัวและมาตรการป้องกันแบบเจาะจง ส่วนมาตรการเหล่านี้จะทำงานได้อย่างน่าเชื่อถือเพียงใดในการสนทนาจริง ยังคงเป็นคำถามที่ต้องอาศัยการทดสอบต่อเนื่องและการประเมินอย่างเป็นอิสระ