רו חאנה רוצה לדעת אם ניסו לגנוב את ה-AI עצמו

חבר הקונגרס האמריקאי רו חאנה ביקש מ-OpenAI, Anthropic, Google, Meta ו-SpaceX למסור מידע על ניסיונות של סין או של גורמים עוינים אחרים להשיג גישה לא מורשית למשקלי המודלים שלהן — ולפרט אילו אמצעי אבטחת סייבר נועדו להגן עליהם. הסיבה היא שמשקלים גנובים עשויים לאפשר לתוקף להפעיל עותק של המודל, לפגוע ביתרון של ארצות הברית בתחום הבינה המלאכותית וליצור סיכונים לביטחון הלאומי.71114

חשוב להדגיש: חאנה מבקש לברר אם היו ניסיונות כאלה וכיצד החברות נערכות אליהם. עצם הפנייה אינה טענה שסין או גורם אחר כבר גנבו משקלים של אחת החברות.1114

מה בעצם גונבים כשגונבים משקלי מודל?

משקלי מודל הם הפרמטרים המספריים שנלמדים במהלך האימון ומשמשים להפעלת המערכת. השגתם עשויה לאפשר לגורם אחר להריץ עותק של המודל עצמו — ולכן מדובר בסוג גישה ישיר ורגיש במיוחד.7

גניבת משקלים אינה אותו דבר כמו זיקוק

ההבחנה חשובה על רקע הטענות שהשמיעו חברות אמריקאיות וגורמים בממשל בארצות הברית נגד חברות AI סיניות. בזיקוק, מפתחים מאמנים מודל משלהם באמצעות התשובות שמפיק מודל אחר. התהליך עשוי לסייע בבניית מערכת אחרת, אבל אינו זהה להשגת המשקלים של המודל המקורי.617

OpenAI ו-Anthropic דיווחו על מקרים שבהם חברות סיניות, בהן Moonshot ו-DeepSeek, השתמשו בזיקוק. לעומת זאת, לפי הדיווחים, ידועים מעט מקרים שבהם גורם כלשהו גנב בפועל משקלי מודל.4613

אבטחת סייבר, תחרות ובטיחות AI

מבחינת חאנה, הגנה על המודלים המתקדמים היא גם עניין של אבטחת מידע וגם חלק מהתחרות הטכנולוגית בין ארצות הברית לסין: אם גורם עוין ישיג את המשקלים, הוא עשוי לקבל גישה ישירה למודל שעל פיתוחו הושקעו משאבים רבים. חאנה קורא גם לשיתוף פעולה בין שתי המדינות על אמצעי בטיחות ופיקוח בתחום ה-AI.25

יש כאן מתח מדיני: אנליסטים מזהירים שהחרפת המחלוקות סביב העתקה לכאורה של טכנולוגיה אמריקאית עלולה להקשות על שיתוף פעולה כזה.18

בדיקות וולונטריות — אבל מי אחראי לאבטחה?

הממשל של דונלד טראמפ הציע שמפתחות של חלק מהמודלים המתקדמים, ובפרט מודלים עם יכולות פריצה מתקדמות, יעבירו אותם מרצונם לבדיקות סייבר ממשלתיות לפני פרסומם. במקביל, חאנה דורש מהחברות לפרט כיצד הן מגינות על המודלים שלהן.7

אלה שני מהלכים שונים: בדיקה לפני השקה מתמקדת ביכולות ובסיכונים של המודל, ואילו שאלותיו של חאנה נוגעות גם לאבטחת המשקלים מפני גישה לא מורשית. המידע שפורסם אינו מראה שבדיקות וולונטריות ימנעו גניבת משקלים — וגם לא שמשקלים של אחת מחמש החברות נגנבו.1113