החוויה מופעלת כאשר פרטי החשבון מצביעים על כך שהמשתמש בן 13–17, או כאשר מערכת חיזוי הגיל של OpenAI מעריכה שהוא מתחת לגיל 18. בחברה אומרים כי כאשר המערכת אינה בטוחה, היא מעדיפה להחיל את ההגנות המחמירות יותר של חוויית המשתמשים מתחת לגיל 18.
עם זאת, אין מדובר באימות גיל מושלם. מערכת כזו עלולה ליצור חיוביים שגויים — ולהטיל מגבלות על מבוגרים — או שליליים שגויים, ולהשאיר חלק מהקטינים בחוויה הרגילה. משתמשים יכולים גם למסור גיל שגוי או להשתמש בחשבון של אדם אחר. לכן, לפי הראיות הקיימות, נכון לראות בחיזוי הגיל אמצעי הגנה אחד ולא מערכת מלאה להבטחת גיל.
הכלים החינוכיים נועדו להפוך את ChatGPT לשותף ללמידה, ולא למכונה שפשוט מספקת תשובות:
המטרה המוצהרת היא לסייע לתלמידים להבין את החומר, בלי לבצע את עבודת בית הספר במקומם. אבל גם כאן אין ערובה שכל תשובה תהיה נכונה מבחינה פדגוגית, או שכל תלמיד ישתמש במערכת באופן הוגן.
הורה או אפוטרופוס יכולים, באופן אופציונלי, לקשר את החשבון שלהם לחשבון של המתבגר דרך בקרת הורים (Parental Controls). לאחר הקישור ניתן לנהל הגדרות בטיחות ומוצר מסוימות, ובהן הגנות מפני תוכן רגיש, זיכרון שמור, השתתפות באימון המודל, מצב קולי וכלים כמו יצירת תמונות, Cloud Browser וגישה לרשת של Codex.
הורה מקושר יכול גם:
הכלים האלה אינם לוח בקרה משפחתי למעקב. הורים אינם מקבלים את הצ'אטים, התמלילים או היסטוריית השיחות של המתבגר, וההתראות אינן מספקות ניטור בזמן אמת.
ChatGPT for Teens כולל תזכורות שמעודדות את המשתמש לעצור, להתרחק מהמסך ולקחת הפסקה לאחר שימוש ממושך. OpenAI תיארה תזכורות תכופות יותר לבני נוער שמבלים זמן רב ב-ChatGPT; דיווחים על ההשקה ציינו הודעה לאחר 90 דקות פעילות בתוך חלון של שלוש שעות.
ההתראות להורים מוגבלות בכוונה. OpenAI אומרת שהורה מקושר עשוי לקבל הודעה לאחר שמבקרים שעברו הכשרה ייעודית מזהים חשש חמור לפגיעה עצמית. התראות עשויות להתייחס גם להשבתת חשבון בעקבות מקרים מסוימים הקשורים לאלימות, והחברה תיארה הרחבה של הכיסוי גם לחששות הנוגעים להפרעות אכילה.
ההתראות עלולות שלא לזהות כל מצוקה. הן אינן תחליף לשירותי חירום, לטיפול מקצועי או לתמיכה ישירה של מבוגר מהימן.
OpenAI אומרת שחוויית בני הנוער מחילה כללי התנהגות והגנות מוצר נוספות בתחומים שעלולים להיות מסוכנים במיוחד לקטינים:
התגובות אמורות לכלול הגנות מחמירות יותר והתערבויות שמכוונות להסלמה לגורמי תמיכה במקרים חמורים, לצד מסלולים מוגבלים להתראות בטיחות להורים מקושרים.
מנגנוני ההגנה נועדו לצמצם הנחיות מזיקות וחשיפה לתכנים גרפיים או בלתי מתאימים מבחינה התפתחותית. חששות הקשורים להפרעות אכילה נכללים גם בכיסוי המורחב של ההתראות שתיארה OpenAI.
החוויה מחילה מגבלות מחמירות יותר על תכנים אלימים ועל פעילויות מסוכנות. במקרים מסוימים הקשורים למעשי אלימות, החשבון עשוי להיות מושבת והורה מקושר עשוי לקבל התראה מוגבלת.
OpenAI אומרת שההגנות למשתמשים מתחת לגיל 18 מגבילות יותר תכנים מיניים מפורשים או גרפיים, וכן משחקי תפקידים מיניים או רומנטיים. הגדרות בקרת ההורים יכולות להוסיף מסננים למשחקי תפקידים רומנטיים או מיניים, למשחקי תפקידים אלימים ולקטגוריות רגישות אחרות.
כללי ההתנהגות למשתמשים מתחת לגיל 18 נועדו למנוע מהמודל להשתמש בשפה רומנטית כלפי בני נוער, לעודד תלות רגשית או לרמוז שיש לו רגשות או תודעה. המטרה המוצהרת היא לחזק קשרים בריאים מחוץ לצ'אטבוט.
חשוב לזכור: אלה מדיניות והתנהגויות מוצר, לא הוכחה שכל בקשה מסוכנת תיחסם או שכל שיחה בעייתית תזוהה.
OpenAI מציגה את ChatGPT for Teens כניסיון להפוך את השימוש של צעירים בבינה מלאכותית יוצרת למותאם יותר לגיל ולממוקד יותר בלמידה — במקום פשוט למנוע מבני נוער גישה לטכנולוגיה. ההשקה נשענת על עבודה קודמת של החברה בתחום בקרת ההורים, חיזוי גיל, הנחיות בטיחות לבני נוער וכללי מודל למשתמשים מתחת לגיל 18.
התזמון משקף גם ביקורת גוברת על האפשרות שצ'אטבוטים יהיו מעורבים בשיחות על פגיעה עצמית, בעצות מסוכנות, באינטראקציות מיניות, בתלות רגשית ובשימוש כפייתי בקרב ילדים. במקביל, פלטפורמות חברתיות גדולות מרחיבות חשבונות נוער, מערכות להערכת גיל, הגבלות תוכן, כלי פיקוח ותזכורות זמן והפסקה. כך מציבה ההשקה את OpenAI באופן ישיר יותר בתחרות הרחבה על השאלה כיצד מוצרי AI לצרכנים צריכים לשרת — ולהגביל — משתמשים צעירים.
השאלה החשובה ביותר שעדיין נותרה פתוחה היא שאלת היעילות. מומחי בטיחות ילדים ומבקרים בירכו על הגדרות ברירת מחדל מחמירות יותר, אך הטילו ספק ביכולת של אמצעי הגנה אוטומטיים לעמוד באופן עקבי בניסוחים שונים ובשימוש בעולם האמיתי.
יש ארבע מגבלות מעשיות מרכזיות:
לכן המסקנה המבוססת ביותר מצומצמת יותר מהאמירה ש-ChatGPT for Teens הוא “בטוח”. OpenAI יצרה ברירת מחדל מוגבלת יותר ומכוונת ללמידה עבור משתמשים מתחת לגיל 18, עם כלים שימושיים למשפחות והגנות ממוקדות. השאלה אם האמצעים האלה פועלים באופן אמין בשיחות אמיתיות תצטרך לקבל מענה באמצעות בדיקות מתמשכות והערכות בלתי תלויות.
החוויה מופעלת כאשר פרטי החשבון מצביעים על כך שהמשתמש בן 13–17, או כאשר מערכת חיזוי הגיל של OpenAI מעריכה שהוא מתחת לגיל 18. בחברה אומרים כי כאשר המערכת אינה בטוחה, היא מעדיפה להחיל את ההגנות המחמירות יותר של חוויית המשתמשים מתחת לגיל 18.
עם זאת, אין מדובר באימות גיל מושלם. מערכת כזו עלולה ליצור חיוביים שגויים — ולהטיל מגבלות על מבוגרים — או שליליים שגויים, ולהשאיר חלק מהקטינים בחוויה הרגילה. משתמשים יכולים גם למסור גיל שגוי או להשתמש בחשבון של אדם אחר. לכן, לפי הראיות הקיימות, נכון לראות בחיזוי הגיל אמצעי הגנה אחד ולא מערכת מלאה להבטחת גיל.
הכלים החינוכיים נועדו להפוך את ChatGPT לשותף ללמידה, ולא למכונה שפשוט מספקת תשובות:
המטרה המוצהרת היא לסייע לתלמידים להבין את החומר, בלי לבצע את עבודת בית הספר במקומם. אבל גם כאן אין ערובה שכל תשובה תהיה נכונה מבחינה פדגוגית, או שכל תלמיד ישתמש במערכת באופן הוגן.
הורה או אפוטרופוס יכולים, באופן אופציונלי, לקשר את החשבון שלהם לחשבון של המתבגר דרך בקרת הורים (Parental Controls). לאחר הקישור ניתן לנהל הגדרות בטיחות ומוצר מסוימות, ובהן הגנות מפני תוכן רגיש, זיכרון שמור, השתתפות באימון המודל, מצב קולי וכלים כמו יצירת תמונות, Cloud Browser וגישה לרשת של Codex.
הורה מקושר יכול גם:
הכלים האלה אינם לוח בקרה משפחתי למעקב. הורים אינם מקבלים את הצ'אטים, התמלילים או היסטוריית השיחות של המתבגר, וההתראות אינן מספקות ניטור בזמן אמת.
ChatGPT for Teens כולל תזכורות שמעודדות את המשתמש לעצור, להתרחק מהמסך ולקחת הפסקה לאחר שימוש ממושך. OpenAI תיארה תזכורות תכופות יותר לבני נוער שמבלים זמן רב ב-ChatGPT; דיווחים על ההשקה ציינו הודעה לאחר 90 דקות פעילות בתוך חלון של שלוש שעות.
ההתראות להורים מוגבלות בכוונה. OpenAI אומרת שהורה מקושר עשוי לקבל הודעה לאחר שמבקרים שעברו הכשרה ייעודית מזהים חשש חמור לפגיעה עצמית. התראות עשויות להתייחס גם להשבתת חשבון בעקבות מקרים מסוימים הקשורים לאלימות, והחברה תיארה הרחבה של הכיסוי גם לחששות הנוגעים להפרעות אכילה.
ההתראות עלולות שלא לזהות כל מצוקה. הן אינן תחליף לשירותי חירום, לטיפול מקצועי או לתמיכה ישירה של מבוגר מהימן.
OpenAI אומרת שחוויית בני הנוער מחילה כללי התנהגות והגנות מוצר נוספות בתחומים שעלולים להיות מסוכנים במיוחד לקטינים:
התגובות אמורות לכלול הגנות מחמירות יותר והתערבויות שמכוונות להסלמה לגורמי תמיכה במקרים חמורים, לצד מסלולים מוגבלים להתראות בטיחות להורים מקושרים.
מנגנוני ההגנה נועדו לצמצם הנחיות מזיקות וחשיפה לתכנים גרפיים או בלתי מתאימים מבחינה התפתחותית. חששות הקשורים להפרעות אכילה נכללים גם בכיסוי המורחב של ההתראות שתיארה OpenAI.
החוויה מחילה מגבלות מחמירות יותר על תכנים אלימים ועל פעילויות מסוכנות. במקרים מסוימים הקשורים למעשי אלימות, החשבון עשוי להיות מושבת והורה מקושר עשוי לקבל התראה מוגבלת.
OpenAI אומרת שההגנות למשתמשים מתחת לגיל 18 מגבילות יותר תכנים מיניים מפורשים או גרפיים, וכן משחקי תפקידים מיניים או רומנטיים. הגדרות בקרת ההורים יכולות להוסיף מסננים למשחקי תפקידים רומנטיים או מיניים, למשחקי תפקידים אלימים ולקטגוריות רגישות אחרות.
כללי ההתנהגות למשתמשים מתחת לגיל 18 נועדו למנוע מהמודל להשתמש בשפה רומנטית כלפי בני נוער, לעודד תלות רגשית או לרמוז שיש לו רגשות או תודעה. המטרה המוצהרת היא לחזק קשרים בריאים מחוץ לצ'אטבוט.
חשוב לזכור: אלה מדיניות והתנהגויות מוצר, לא הוכחה שכל בקשה מסוכנת תיחסם או שכל שיחה בעייתית תזוהה.
OpenAI מציגה את ChatGPT for Teens כניסיון להפוך את השימוש של צעירים בבינה מלאכותית יוצרת למותאם יותר לגיל ולממוקד יותר בלמידה — במקום פשוט למנוע מבני נוער גישה לטכנולוגיה. ההשקה נשענת על עבודה קודמת של החברה בתחום בקרת ההורים, חיזוי גיל, הנחיות בטיחות לבני נוער וכללי מודל למשתמשים מתחת לגיל 18.
התזמון משקף גם ביקורת גוברת על האפשרות שצ'אטבוטים יהיו מעורבים בשיחות על פגיעה עצמית, בעצות מסוכנות, באינטראקציות מיניות, בתלות רגשית ובשימוש כפייתי בקרב ילדים. במקביל, פלטפורמות חברתיות גדולות מרחיבות חשבונות נוער, מערכות להערכת גיל, הגבלות תוכן, כלי פיקוח ותזכורות זמן והפסקה. כך מציבה ההשקה את OpenAI באופן ישיר יותר בתחרות הרחבה על השאלה כיצד מוצרי AI לצרכנים צריכים לשרת — ולהגביל — משתמשים צעירים.
השאלה החשובה ביותר שעדיין נותרה פתוחה היא שאלת היעילות. מומחי בטיחות ילדים ומבקרים בירכו על הגדרות ברירת מחדל מחמירות יותר, אך הטילו ספק ביכולת של אמצעי הגנה אוטומטיים לעמוד באופן עקבי בניסוחים שונים ובשימוש בעולם האמיתי.
יש ארבע מגבלות מעשיות מרכזיות:
לכן המסקנה המבוססת ביותר מצומצמת יותר מהאמירה ש-ChatGPT for Teens הוא “בטוח”. OpenAI יצרה ברירת מחדל מוגבלת יותר ומכוונת ללמידה עבור משתמשים מתחת לגיל 18, עם כלים שימושיים למשפחות והגנות ממוקדות. השאלה אם האמצעים האלה פועלים באופן אמין בשיחות אמיתיות תצטרך לקבל מענה באמצעות בדיקות מתמשכות והערכות בלתי תלויות.