חן ייסין: שימוש לרעה בבינה מלאכותית עלול לסכן את הביטחון הפוליטי והאידאולוגי של סין

חן ייסין, שר ביטחון המדינה של סין, הזהיר כי התקדמות מהירה ושימוש זדוני בבינה מלאכותית עלולים להפוך לאיום ישיר על היציבות הפוליטית, על המוסדות, על השליטה האידאולוגית ועל התשתיות הקריטיות של סין. במאמר שפורסם בכתב העת הרשמי China Cyberspace, הוא הציג את ה-AI לא רק כטכנולוגיה אזרחית או כלכלית, אלא כזירת ביטחון לאומי ותחרות אסטרטגית בין מעצמות. 57

שישה סוגי סיכון שבייג׳ינג מזהה

לדברי חן, גורמים עוינים יכולים לנצל דיפ־פייקים של קול ווידאו, טקסטים ותמונות שנוצרו בבינה מלאכותית וחשבונות אוטומטיים ברשתות חברתיות כדי לייצר ולהפיץ שמועות פוליטיות בהיקף רחב. הוא טען כי שימוש כזה עשוי להפיץ תוכן מזיק, להחריף מתחים חברתיים ולשמש ל"מלחמת דעת קהל" ולמבצעי השפעה תודעתיים — ובכך לפגוע בביטחון הפוליטי, המוסדי והאידאולוגי של סין. 57

הוא הזהיר גם כי AI מצמצמת את העלות ואת רף הידע הדרוש לפריצות סייבר ולפיתוח נוזקות. יכולות כאלה, לפי חן, עשויות להקל על איתור חולשות במערכות, על יצירת תוכנות לניצולן, ועל איסוף מודיעין ודליפה המונית של סודות מדינה, נתוני סחר רגישים ומידע אישי. התוצאה האפשרית היא פגיעה בתשתיות מידע קריטיות וביכולת הממשל לנהל את החברה. 31113

ריבונות טכנולוגית, לא רק בטיחות של מודלים

במאמרו חן הציג את המרוץ הבינלאומי ב-AI כמאבק שבו מדינות מובילות משתמשות בטיעוני ביטחון לאומי כדי להטיל מגבלות טכנולוגיות, לעצב או למונופול על תקנים, ולהקים מערכות אקולוגיות סגורות וקנייניות. מנקודת מבט זו, בטיחות בינה מלאכותית קשורה גם לתלות אסטרטגית, לשליטה בשרשראות אספקה, לבלימה טכנולוגית ולהתערבות זרה. 57

זוהי מסגרת שונה מזו שהציג דאריו אמודיי, מנכ״ל Anthropic, במאמרו "We Must Pace the Frontier". אמודיי לא קרא להפסיק את הפיתוח, אלא להאט את קצב שדרוג היכולות כך שמנגנוני יישור מטרות, אבטחה ובדיקות חיצוניות ידביקו את הקצב. הוא הציע גישה קבועה לבודקים עצמאיים בתוך מעבדות ה-AI, התחייבויות בטיחות משותפות בקרב מדינות דמוקרטיות, ובהמשך גם תיאום גלובלי רחב יותר שיכלול ממשלות סמכותניות. 122

סם אלטמן, מנכ״ל OpenAI, אמר כי החברה תאמץ את רעיון הבודקים העצמאיים בעלי גישה הדומה לזו של עובדים; אילון מאסק הביע בפומבי הסכמה עם הקריאה להאט את קצב ההתקדמות. 101

אותו איום, נקודת מוצא שונה

הגישה הסינית היא ממוקדת־מדינה: שימור יציבות פוליטית, סמכות המפלגה הקומוניסטית, שליטה אידאולוגית, ריבונות על נתונים והגנה מפני כפייה טכנולוגית חיצונית. לכן מבצעי השפעה מבוססי AI וגישה זרה למידע סיני נתפסים כאיומי ביטחון ישירים. 57

לעומתה, גישת בטיחות ה-AI של חברות החזית בעמק הסיליקון היא ממוקדת־יכולות: החשש הוא שמודלים חזקים מדי, שאינם מיושרים כראוי או מאובטחים מספיק, יאפשרו מתקפות סייבר הרסניות, פעולה אוטונומית מזיקה, שימוש מדעי מסוכן או אובדן שליטה אנושית משמעותית. הכלים המוצעים הם בדיקות, הגנות טכניות וכללי בטיחות חוצי גבולות. 122

יש חפיפה מסוימת בין העמדות: שני הצדדים מזהים סכנות של ריגול, דיסאינפורמציה, שימוש לרעה בסייבר ויישומים צבאיים. אבל המחלוקת נוגעת לשאלה מי יקבע את התקנים, האם כללי "בטיחות" עלולים בפועל לשמש מגבלות אסטרטגיות על טכנולוגיה, ועד כמה שקיפות וביקורת חיצונית מתיישבות עם ריבונות וביטחון לאומי.

משמעות לשיחות ארה״ב–סין

לפי דיווחים, אמצע ספטמבר אמור להביא את הדיאלוג הראשון בתקופת הכהונה השנייה של דונלד טראמפ שמוקדש ספציפית לבטיחות בינה מלאכותית בין ארה״ב לסין. 4 מאמרו של חן מרמז שבייג׳ינג תבקש לדון לא רק ביישור מודלים ובסיכונים קטסטרופליים, אלא גם בהתערבות זרה, באבטחת נתונים ותשתיות, בשוויון בקביעת תקנים ובהתנגדות לבלימה טכנולוגית. 37

לכן, הסכמה על צעדים נקודתיים — למשל נגד הונאות באמצעות מדיה סינתטית, מתקפות סייבר מבוססות AI, דיווח על תקריות וערוצי תקשורת לגבי סיכונים צבאיים — עשויה להיות אפשרית יותר מהסכמה על מגבלות יכולת כלליות או על מנגנוני הערכה אוניברסליים. אמצעי הגנה שוושינגטון מציגה כהפחתת סיכון עשויים להיתפס בבייג׳ינג כמנגנון לשימור יתרון טכנולוגי אמריקאי.