למה רו חאנה רוצה לדעת אם ניסו לגנוב את משקולות מודלי ה-AI?

רו חאנה, חבר קונגרס דמוקרטי מקליפורניה, מבקש מחברות כמו OpenAI, Anthropic, Google, Meta ו-xAI לדווח אם ידוע להן על ניסיונות מצד סין או גורמים עוינים אחרים להשיג באופן לא חוקי את משקולות מודלי ה-AI שלהן, ולתאר איך הן מגינות עליהן. מבחינתו, זו לא רק שאלה של הגנה על נכס עסקי: אם גורם עוין ישיג מודל מתקדם, עלולות להיות לכך השלכות ביטחוניות רחבות יותר.310

מהן משקולות מודל — ואיך אפשר לגנוב אותן?

משקולות המודל הן הפרמטרים שנלמדו במהלך האימון, והם חלק מרכזי באופן שבו המודל מעבד מידע ומפיק תשובות. גניבתן פירושה השגת הרכיבים האלה עצמם, ולא רק שימוש בשירות של החברה שפיתחה את המודל. חאנה כבר העלה את השאלה אם אפשר להגן על המשקולות מפני גניבה, בנפרד מהסיכון שמודלים אמריקאיים יועתקו בדרכים אחרות.

ההבחנה חשובה במיוחד בגלל זיקוק מודל (distillation). בתהליך הזה משתמשים בתשובות שמפיק מודל קיים כדי לאמן מודל אחר. כך אפשר ללמוד מהתוצרים שלו, אבל הדבר אינו מעניק כשלעצמו גישה למשקולות המקוריות. OpenAI ו-Anthropic דיווחו על מקרים של זיקוק מצד חברות AI סיניות; לפי הדיווחים, יש מעט מקרים ידועים של גניבת משקולות. לכן דיווח על זיקוק אינו הוכחה שמשקולות של חברה נגנבו.310

למה זה נחשב גם לסיכון לביטחון הלאומי?

אם גורם עוין משיג את המשקולות עצמן, הוא עשוי לקבל גישה ישירה למודל ולהפעיל אותו מחוץ לשירות ולמערכות הבקרה של המפתחת. זו אפשרות שונה מגישה למודל דרך ממשק החברה, אבל המידע הזמין אינו מוכיח שסין הצליחה לגנוב את המשקולות של אחת החברות שהוזכרו.510

מבחינת חאנה, השאלה היא אפוא לא רק אם יריבים יכולים לחקות את התוצרים של מודלים אמריקאיים, אלא גם אם החברות מסוגלות להגן על המודלים עצמם — ואם אפשר לוודא שההגנות עובדות. חאנה קרא גם לבחון מנגנוני פיקוח ואימות במסגרת הסכם AI בין ארצות הברית לסין.25

התחייבויות של החברות או פיקוח ממשלתי?

הפנייה משתלבת בוויכוח על הדרך הנכונה לפקח על AI. ממשל טראמפ קידם מסגרת של התחייבויות וולונטריות מצד חברות, ובמסגרת הדיונים ציין שלא יבדוק בטיחותית מודלים פתוחים במשטר בדיקות וולונטרי.79 התחייבויות כאלה יכולות לכלול ביקורות ובקרות פנימיות, אך הן אינן שקולות בהכרח לחובות שנקבעו בחוק.

חאנה תומך בגישה מחייבת יותר: הוא קרא לביקורות ולפיקוח ממשלתי, וכן להסכם בטיחות בין ארצות הברית לסין שיהיה ניתן לאימות.214 הבקשה שלו מחברות למסור מידע על ניסיונות חדירה ועל אמצעי ההגנה שלהן ממחישה את המחלוקת: האם די בכך שהחברות ינהלו את הסיכונים בעצמן, או שהממשלה צריכה לקבוע כללים ולבדוק את יישומם?

המידע הזמין אינו מפרט מהן ההגנות הספציפיות של החברות, ואינו מאשר אם התרחשו ניסיונות חדירה שלא פורסמו. לכן עצם הבקשה אינה מעידה שמשקולות נגנבו — היא נועדה לברר עד כמה אפשר להגן עליהן.