ג'נסן הואנג: אין צורך בחוקי AI חדשים — הוויכוח על בטיחות ב-Dreamforce

הוויכוח על בטיחות הבינה המלאכותית כבר אינו מסתכם בשאלה אם צריך להיזהר. השאלה היא מי יחליט מתי להאט: החברות שמפתחות את המודלים, או רגולטורים ומבקרים חיצוניים.

בכנס Dreamforce של Salesforce, ג'נסן הואנג, מנכ״ל אנבידיה, הציג תשובה ברורה: תעשיית ה-AI אינה זקוקה לחוקים או לרגולציה חדשים. לדבריו, אין סתירה הכרחית בין פיתוח מהיר של הטכנולוגיה לבין מוצר בטוח — זו, מבחינתו, "בחירה כוזבת".

הבטיחות, לפי הואנג, היא קודם כול בעיית הנדסה

הואנג לא טען שבטיחות אינה חשובה. להפך: הוא הציג אותה כאחריות הנדסית ותפעולית של המעבדות שמפתחות את המערכות. חברות צריכות לשמור על שליטה במוצרים שלהן, לבצע בדיקות רציניות, ולא לשחרר מערכת אם אינן סבורות שהיא מוכנה.

לפי הגישה הזאת, אין צורך בבלם רגולטורי רחב כדי לפתח AI אחראי. אפשר להתקדם במהירות, ובו בזמן לבנות מנגנוני בדיקה, שליטה והחלטות שחרור אחראיות. הואנג גם דחה את התרחישים של הכחדת האנושות כמסגרת המרכזית לדיון בסיכוני AI, אך הביע פתיחות לבוחנים עצמאיים — כל עוד הבדיקות מהותיות והמעבדות המפתחות נשארות בשליטה על מערכותיהן.

הקו המשותף עם טראמפ בפסגת All-In

המסר ב-Dreamforce המשיך קו שהואנג הציג בפסגת All-In בלוס אנג'לס. שם הוא תיאר "השהיה" או "קיצוב קצב" כבחירות וולונטריות שחברה יכולה לקבל אם היא מרגישה שאיבדה שליטה על המערכת שלה.

במהלך האירוע התקשר אליו הנשיא דונלד טראמפ, והואנג העלה את השיחה לרמקול. טראמפ דחה בחריפות את הקריאות להאט את פיתוח ה-AI ואת אזהרות הבטיחות, ושניהם שידרו עמדה שלפיה ארה״ב צריכה לשמר תנופה טכנולוגית במקום להטיל האטה רגולטורית גורפת.

זו כמובן עמדה מדינית וכלכלית, ולא הוכחה לכך שכל הסיכונים ניתנים לניהול באמצעות החלטות וולונטריות. השאלה שנותרת היא אם חברות שנמצאות בתחרות עזה מסוגלות תמיד להחליט בעצמן לדחות השקה בעלת ערך עסקי גבוה.

העמדה הנגדית: להאט את השיפור כדי שההגנות ידביקו את הקצב

דריו אמוֹדיי, מנכ״ל Anthropic, אינו קורא להפסיק לפתח בינה מלאכותית. הוא קורא להאט את קצב השיפור ביכולות של מודלי AI מתקדמים, כדי לאפשר למחקר הבטיחות, לניטור ולממשל הטכנולוגי להדביק את הקצב. הוא הציע בדיקות בטיחות חזקות יותר ובוחנים עצמאיים שיוכלו לקבל גישה משמעותית לחברות המובילות. 14

סם אלטמן מ-OpenAI ואילון מאסק הביעו תמיכה פומבית בקו הזה. אלטמן אמר ש-OpenAI תקבל בוחנים עצמאיים עם גישה הדומה לזו של עובדים, ומאסק כתב: "דריו צודק". 49

לכן, החלוקה אינה בין מי ש"בעד AI" למי ש"נגד AI":

• הגישה של הואנג: להתקדם מהר, ולפתור את שאלת הבטיחות באמצעות הנדסה איכותית, בדיקות והחלטות אחראיות על שחרור מוצרים.
• הגישה של אמוֹדיי: לקצב במכוון את השיפור ביכולות המודלים המתקדמים, כדי שפיקוח עצמאי ואמצעי בטיחות יוכלו לעמוד בקצב.
• העמדה המוצהרת של אלטמן ומאסק: תמיכה בזהירות רבה יותר ובבדיקה עצמאית, אף שהפרטים המעשיים של האטה כלל-תעשייתית עדיין שנויים במחלוקת. 14

בוחנים עצמאיים: נקודת ההסכמה המצומצמת

למרות העימות, יש גם שטח משותף. אמוֹדיי מציע לשלב בוחני צד שלישי בתוך החברות המובילות, עם גישה שתאפשר להם לבדוק אם החברות עומדות בהתחייבויות ובנהלי הבטיחות שלהן. 312

הפתיחות שייחסו להואנג לבוחנים כאלה מצביעה על הסכמה צרה: ביקורת חיצונית יכולה להועיל. המחלוקת האמיתית היא על סמכות ואכיפה — האם מדובר ביועצים ובמבקרים שעובדים לצד החברה, או בחלק ממנגנון מחייב שיכול לדרוש ממנה לעצור.

ההתנגדות למרכזי נתונים עוסקת בסיכון מסוג אחר

החשש הציבורי ממרכזי נתונים מקומיים קשור לוויכוח על AI, אך הוא שונה מהחשש מאובדן שליטה במודלים מתקדמים. קהילות עשויות להתמקד בהשלכות מוחשיות יותר: צריכת חשמל ומים, פליטות, שימושי קרקע, רעש ועומס על תשתיות מקומיות.

החששות האלה אינם מוכיחים שבינה מלאכותית יוצרת איום קיומי. הם כן מדגישים שלפריסת תשתיות ה-AI יש עלויות סביבתיות וחברתיות שמורגשות במקום מסוים, בעוד שחלק ניכר מההחלטות ומהתועלות הכלכליות מרוכז אצל חברות ומוקדי כוח אחרים. החומרים שסופקו אינם מאפשרים לכמת את היקף ההתנגדות, ולכן אין להציג אותה כמגמה עולמית או ארצית מדודה.

מה יש לאנבידיה על הכף

הצלחתה העסקית של אנבידיה קשורה ישירות להמשך ההשקעה באימון ובהפעלה של מערכות AI. הסכם הרכישה המדווח שלה עבור Hugging Face, בהיקף 12.9 מיליארד דולר, צפוי להרחיב את נוכחותה מעבר לשבבים ולתשתיות מרכזי נתונים — אל פלטפורמה מרכזית של מודלים, מאגרי נתונים ומפתחים. 17

מכאן סביר להסיק שכללים שיאטו באופן מהותי אימון מודלים, השקות או הקמת מרכזי נתונים עשויים לפגוע בביקוש ברחבי אקוסיסטם ה-AI המתרחב של אנבידיה. זהו תמריץ מסחרי הקשור לעמדת החברה, לא ראיה למניע האישי של הואנג או הוכחה לכך שטיעוניו על בטיחות אינם כנים.

השורה התחתונה

הטיעון של הואנג הוא הימור על אחריות המפתחים: אפשר להתקדם במהירות אם החברות שומרות שליטה, בודקות היטב ומסרבות לשחרר מערכות לא בטוחות. הטיעון המתחרה של אמוֹדיי הוא הימור על האטה מודעת ופיקוח עצמאי: מודלי הקצה עלולים להשתפר מהר מכדי שאמצעי הגנה וולונטריים בלבד יהיו אמינים דיים. 14

השאלה הפתוחה אינה אם בטיחות חשובה. היא אם הבטיחות יכולה להישאר בעיקר משימה הנדסית פנימית של מעבדות ה-AI, או שההיקף וההשפעה האפשרית של המערכות המתקדמות מחייבים מנגנוני פיקוח חיצוניים ואכיפים לפני קפיצת היכולת הבאה.