פרויקט לילי: כך לפי הדיווח קבלנים בודקים שיחות אמיתיות ב־ChatGPT

תחקיר של 404 Media על המיזם הפנימי של OpenAI, „פרויקט לילי”, מתאר מערך משוב אנושי הנשען על שיחות אמיתיות של משתמשי ChatGPT. לפי מסמכים שדלפו, דוגמאות להנחיות ותגובת החברה שנבחנו בתחקיר, קבלנים חיצוניים עשויים לקרוא את הקשר השיחה כדי להעריך את תשובות המודל — גם כאשר השיחות כוללות פרטים אישיים רגישים. 1

עבור מי שמשתמשים ב־ChatGPT להתייעצות אישית, רפואית, זוגית, משפטית או מקצועית, הנקודה המרכזית פשוטה: בקשה בצ'אט כמו „שמור את זה בינינו” אינה הגדרת פרטיות ואינה מגבלת גישה. ההגדרה הרלוונטית היא האם החשבון מאפשר להשתמש בשיחות חדשות לשיפור המודל. 1

מה הבודקים בפרויקט לילי עושים, לפי הדיווח

404 Media דיווחה כי מאות קבלנים, המועסקים דרך חברות כוח אדם ומשתכרים יותר מ־50 דולר לשעה, בודקים זרם גדול של שיחות ChatGPT אמיתיות. לפי הדיווח, המשימות שלהם כוללות:

• סיכום כוונת המשתמש;
• השוואה בין ארבע תשובות אפשריות של המודל;
• מתן ציון בסולם של 1 עד 7;
• זיהוי התנהגויות שהופכות תשובות לפחות מועילות או פחות אמינות. 1

קריטריוני ההערכה נועדו לשפר את האיכות והטון של תשובות ChatGPT. הבודקים מתבקשים, לפי הדיווח, לסמן ניסוחים שנשמעים „כמו בינה מלאכותית”, טעויות עובדתיות, שפה מתרפסת או מסכימה מדי, בעיות בטיחות, ותשובות שיוצרות מצג שווא שלפיו למודל יש חוויות או רגשות אישיים. 1

מטרת מעגל המשוב היא להפוך את התשובות לטבעיות ופחות מכניות. עם זאת, שיפור כזה עשוי לכלול גישה אנושית לתוכן השיחות של המשתמשים. 1

הסרת שם משתמש אינה בהכרח הופכת את השיחה לאנונימית

OpenAI מסרה ל־404 Media ששמות משתמש מוסרים ושמופעל „מסנן פרטיות” לפני שהחומר מועבר לבודקים. ואולם, התחקיר מצא דוגמאות שבהן חומרי הבדיקה עשויים לכלול את מלוא הקשר השיחה וסיכומי זיכרון שנוצרו בידי המודל. לפי הדיווח, סיכומים כאלה כללו פרטים כגון מיקום משוער, מקצוע ונסיבות אישיות מאוד. 1

הבעיה היא זיהוי מתוך הקשר. אפשר להסיר שם או מזהה חשבון, אך צירוף של אירועי חיים, פרטי עבודה, אזור גאוגרפי או אזכורים חריגים עדיין עלול להפוך שיחה לניתנת לזיהוי עבור מי שמכיר את האדם — או לכל הפחות לחשוף מידע רגיש. 404 Media דיווחה כי OpenAI הכירה בכך שמסננים מתקשים לעיתים לזהות מזהים נדירים או אזכורים פרטיים עמומים שתלויים בהקשר. 1

„שמור את זה בינינו” לא מונע בדיקה אנושית

הוראה ל־ChatGPT לשמור דיון בסוד היא חלק מתוכן השיחה, ולא העדפת פרטיות של החשבון. היא אינה גוברת על הגדרות השימוש בנתונים ואינה מונעת מהשיחה להיבחר לתהליך שיפור מהסוג שתיארה 404 Media. 1

לכן, לא כדאי להתייחס לצ'אט צרכני כאל ערוץ סודי רק משום שהשיחה מרגישה אישית. אם חשיפת המידע לבודק מורשה עלולה להזיק, בטוח יותר שלא להזין אותו למרחב אישי שבו שיפור המודל מופעל.

איך למנוע שימוש בשיחות ChatGPT חדשות לשיפור המודל

לפי תיעוד Data Controls של OpenAI, משתמשים במרחב אישי יכולים לבטל את שיפור המודל כך:

1. פרופיל ← הגדרות
2. פקדי נתונים (Data Controls)
3. לכבות את „Improve the model for everyone”

כאשר ההגדרה כבויה, שיחות חדשות נשארות בהיסטוריית הצ'אטים, אך אינן משמשות לאימון או לשיפור מודלי ChatGPT. ההגדרה חלה על החשבון כולו, ולא על מכשיר מסוים.

לתזמון יש חשיבות: OpenAI מציינת שהוויתור חל על שיחות חדשות. הוא אינו מסיר בדיעבד שיחות שכבר נמסרו בזמן שהאפשרות לשיפור המודל הייתה פעילה.

מה חשוב לדעת בחשבונות Business, Enterprise ו־Edu

OpenAI מצהירה כי כברירת מחדל היא אינה משתמשת בקלטים ובפלטים מ־ChatGPT Business, Enterprise, Edu או מפלטפורמת ה־API שלה לאימון המודלים. לעומת זאת, במרחבים אישיים של משתמשי ChatGPT Free, Plus ו־Pro, שיתוף לצורך שיפור המודל מופעל כברירת מחדל — אך ניתן לבטלו דרך Data Controls.

ההבחנה הזאת אינה פוטרת ארגונים מחובות אבטחת מידע וממשל נתונים. צוותים עדיין צריכים לפעול לפי מדיניות המעסיק ולבדוק את הגדרות סביבת העבודה הספציפית. אבל זהו הבדל מהותי לעומת ברירת המחדל של צ'אטים צרכניים.

האם OpenAI חריגה בשימוש בבני אדם לשיפור AI?

סקירה אנושית אינה ייחודית ל־OpenAI. במדיניות הפרטיות של Anthropic נכתב כי החברה עשויה לאמן ולשפר את המודלים שלה באמצעות קלטים ופלטים שמספקים משתמשים או עובדי קהל, אלא אם המשתמשים מבטלים זאת. גם סקירה אקדמית של נוהלי הפרטיות אצל ספקיות AI גדולות מצאה כי Google ו־OpenAI מתייחסות לשימוש בבדיקה אנושית של שיחות משתמשים לצורך אימון או שיפור.

השאלה הרחבה אינה אם קיים משוב אנושי, אלא אם המשתמשים מבינים מתי השיחות שלהם עשויות להיכנס לתהליך הזה, מה טשטוש מזהים יכול ואינו יכול להגן עליו, וכיצד משנים את ההגדרות הרלוונטיות.

השורה התחתונה לפרטיות

„פרויקט לילי”, כפי שתואר בדיווח של 404 Media, מזכיר שצ'אט AI צרכני אינו בהכרח שיחה חסויה אחד־על־אחד. אמצעי הסרת זיהוי עשויים לצמצם את החשיפה, אך לא בהכרח למחוק כל פרט מסגיר משיחה עשירה בהקשר אישי. 1

לפני שמזינים מידע רגיש ל־ChatGPT, בדקו את הנתיב הגדרות ← Data Controls ← Improve the model for everyone. אם שיפור המודל פעיל, התייחסו לשיחות חדשות ככאלה שעשויות להיות כשירות לשימוש בשיפור השירות; אם הוא כבוי, OpenAI אומרת ששיחות חדשות לא ישמשו למטרה זו.