דיווח: בני אדם קראו שיחות ChatGPT אמיתיות במסגרת „פרויקט לילי”

תחקיר של 404 Media על יוזמה פנימית ב־OpenAI בשם Project Lily מתאר מערך משוב אנושי מובנה המבוסס על שיחות ChatGPT אמיתיות. שאלת הפרטיות אינה מסתכמת בכך ששיחות עשויות לשמש לשיפור מודלים: לפי הדיווח, קבלנים חיצוניים יכלו לקרוא תכנים שהוסר מהם שם המשתמש, אך עדיין כללו לעיתים הקשר אישי מאוד. 2

מה כלל „פרויקט לילי” לפי הדיווח

על פי חומרים פנימיים שהגיעו לידי 404 Media, OpenAI גייסה מאות קבלנים דרך חברות כוח אדם כדי לבחון פרומפטים אמיתיים ותשובות של ChatGPT. לפי הדיווח, התשלום היה יותר מ־50 דולר לשעה. הבודקים התבקשו לסכם את כוונת המשתמש, להשוות בין ארבע תשובות אפשריות ולדרג אותן בסולם של 1 עד 7. 2

המטרה המדווחת הייתה לשפר את איכות התשובות: לגרום ל־ChatGPT להישמע פחות רובוטי, לצמצם טענות אנושיות מדי ולהפחית הסכמה מוגזמת או חנופה למשתמש. משוב אנושי הוא כלי מוכר בפיתוח מערכות בינה מלאכותית, אך שימוש בשיחות אמיתיות של משתמשים הופך את שאלת הפרטיות למוחשית יותר. 2

איזה מידע עשוי להגיע לעיני הבודקים

404 Media דיווחה שהבודקים קיבלו לעיתים תמלולים מלאים של חילופי הדברים, ובחלק מהמקרים גם סיכום זיכרונות משתמש. שמות המשתמשים לא הוצגו, אך ההקשר הזמין עשוי היה לחשוף מיקום משוער, מקצוע, תחומי עניין קודמים ונסיבות אישיות. 2

זהו הבדל מהותי: הסרת שם אינה הופכת שיחה בהכרח לאנונימית או לבלתי רגישה בפועל. שילוב של פרטי הקשר — למשל עיסוק, מצב משפחתי, בעיה בריאותית או אירוע חריג — עלול להיות רגיש גם בלי לזהות במישרין את בעל החשבון.

מסנן הפרטיות של OpenAI — ומה הוא אינו פותר

OpenAI מציגה את Privacy Filter כמודל שנועד לזהות ולהשחיר מידע מזהה אישי בטקסט. 4647

בהקשר של פרויקט לילי, החברה מסרה כי היא הסירה שמות משתמשים והפעילה מסנן אוטומטי לפני שהתוכן הועבר לקבלנים. אולם 404 Media דיווחה כי פרטים רגישים עדיין יכלו להישאר בשיחות שנבדקו, למרות צעדים אלה. 2

זו מגבלה מוכרת של השחרה אוטומטית: מערכת יכולה לזהות ביתר קלות שם, כתובת דוא״ל או מספר טלפון, אך הרבה יותר קשה לה לזהות הקשר מצטבר שעלול לחשוף אדם או מידע רגיש עליו.

מה הבודקים התבקשו לסמן

לפי הדיווח, ההנחיות לא עסקו רק בדיוק עובדתי. הקבלנים התבקשו לאתר, בין היתר:

• ניסוחים שבלוניים או לא טבעיים המזוהים עם צ'טבוטים
• טענות המרמזות על רגשות אנושיים או ניסיון חיים
• הסכמה מוגזמת, חנופה או התנהגות מתרפסת מול המשתמש
• טעויות עובדתיות
• חשיפת מידע אישי
• בעיות בטיחות 2

הדגש על הסכמה מוגזמת חשוב במיוחד: מודל שממהר לאשר כל הנחה של המשתמש עשוי להישמע תומך, אך לא לאתגר הנחות שגויות, מסוכנות או מזיקות. לפי הדיווח, פרויקט לילי נועד בין השאר לכוונן את ההתנהגות הזו. 2

„שמור את זה בינינו” אינו כפתור פרטיות

בקשה בתוך הפרומפט לשמור שיחה בסוד אינה משנה את הגדרות השימוש בנתונים של החשבון. זו פסקה בתוך השיחה, ולא הוראה טכנית שמחליפה את בקרות הנתונים של OpenAI.

במרחבי עבודה אישיים של ChatGPT, הבקרה המתועדת נקראת Improve the model for everyone. כשהיא מופעלת, שיחות עשויות לשמש לשיפור המודלים; כשמכבים אותה, OpenAI אומרת שלא תאמן את המודלים שלה על שיחות חדשות. 2130

כך מבטלים שימוש בשיחות חדשות לשיפור המודלים

למשתמשים מחוברים, ההנחיות של OpenAI הן:

1. פתחו את תפריט הפרופיל ב־ChatGPT.
2. בחרו Settings.
3. עברו אל Data Controls.
4. כבו את Improve the model for everyone. 1921

ההגדרה חלה על החשבון, ולא על מכשיר מסוים. היסטוריית השיחות הקיימת יכולה להישאר זמינה לאחר הכיבוי, אך OpenAI מציינת ששיחות חדשות לא ישמשו לאימון המודלים שלה. 1930

אפשרות נוספת היא Do not train on my content בפורטל הפרטיות של OpenAI. לפי החברה, עבור משימות ChatGPT ו־Codex די באחת משתי האפשרויות — בפורטל או בבקרות הנתונים בתוך המוצר. 21

אילו מסלולים מוגנים כברירת מחדל?

OpenAI מציינת שבמרחבי עבודה אישיים במסלולי Free, Plus ו־Pro, שיתוף הנתונים לצורכי אימון מופעל כברירת מחדל, אם כי אפשר לבטל אותו. עבור ChatGPT Business, Enterprise, Edu ופלטפורמת ה־API, החברה אומרת שקלטים ופלטים שנמסרו לה אינם משמשים לאימון המודלים כברירת מחדל. 23

הדבר אינו הופך כל שיחה עסקית לחסרת סיכון בכל היבט. ארגונים עדיין צריכים לבחון הגדרות מרחב עבודה, מדיניות שמירת מידע, בקרות שיתוף וכללים פנימיים לפני הזנת חומר סודי לכלי בינה מלאכותית.

השורה התחתונה

פרויקט לילי, כפי שתואר בדיווח של 404 Media, הוא תזכורת לכך שכדאי להתייחס לצ'טים צרכניים עם בינה מלאכותית כשירות בעל הגדרות שימוש בנתונים — לא כאל ערוץ חסוי מטבעו. לפני שמזינים מידע אישי רגיש, מידע רפואי, משפטי, פיננסי או קנייני, הצעד המיידי הבטוח הוא לכבות את Improve the model for everyone לפני תחילת שיחה חדשה. 221

בחירה שלא להשתתף משפיעה, לפי OpenAI, על שימוש בשיחות חדשות לשיפור המודלים. היא אינה בקשת סודיות שמוטמעת בתוך הפרומפט, והתיעוד של החברה אינו מציג אותה כמנגנון למשיכת תוכן שכבר נשלח. 2130