שר ביטחון המדינה של סין מזהיר: בינה מלאכותית עלולה להפוך לכלי לערעור המשטר

צ'ן יישין, שר ביטחון המדינה של סין, תיאר את הבינה המלאכותית לא רק כאתגר בטיחותי כללי או כסיכון עתידי לאנושות, אלא בעיקר כאיום אפשרי על יציבות המשטר ועל הריבונות הטכנולוגית של סין. לשיטתו, גורמים עוינים עלולים לנצל AI כדי לערער את הסדר הפוליטי והאידאולוגי, לחדור למאגרי מידע ולתשתיות, ולהעמיק תלות סינית במערכות טכנולוגיה זרות. 2

דיפ-פייקים, בוטים ומלחמות תודעה

הדאגה המרכזית שהציג צ'ן נוגעת לשימוש במערכות AI בזירת המידע. לדבריו, דיפ-פייקים, טקסטים ותמונות שנוצרו באמצעות בינה מלאכותית, וחשבונות אוטומטיים ברשתות החברתיות, עשויים לשמש להמצאת שמועות פוליטיות, להפצת מידע מזיק ולהעצמת מחלוקות בחברה. הוא קשר בין כלים אלה לבין "מלחמת דעת קהל" ו"מלחמה קוגניטיבית" — מאבק שנועד להשפיע על תפיסות, עמדות והתנהגות ציבורית — שעלולים, לפי אזהרתו, לאיים על הביטחון הפוליטי, המוסדי והאידאולוגי של סין. 2

ריגול, נתונים ותשתיות קריטיות

צ'ן הזהיר גם מפני היכולת של AI לאסוף, לנתח ולבנות פרופילים על בסיס מאגרי נתונים עצומים. יכולות כאלה עשויות לסייע למודיעין זר בהשגת סודות מדינה, מידע מסחרי או מידע אישי. הוא גם קישר את התקדמות ה-AI לאיומים על תשתיות מידע קריטיות, לרבות איתור חולשות במערכות ויצירת נוזקות או תוכנות שנועדו לנצל אותן. 23

ריבונות טכנולוגית: לא רק בטיחות, אלא גם מאזן כוחות

לפי צ'ן, AI היא זירת תחרות אסטרטגית בין מדינות. מדינות מובילות יכולות, לדבריו, להסתמך על טיעוני ביטחון לאומי כדי להגביל העברת טכנולוגיות, לשלוט בתקנים ולבנות מערכות אקולוגיות סגורות. מכאן נגזרת תפיסת מדיניות שמדגישה פיתוח יכולות מקומיות, שליטת המדינה בנתונים, באלגוריתמים ובתשתיות, וצמצום התלות בטכנולוגיה חיצונית. 2

במה זה שונה מהקריאות במערב להאט את המרוץ?

דאריו אמודיי, מנכ"ל Anthropic, קרא להאט את קצב שיפור היכולות של מודלי AI מתקדמים כדי לאפשר לאמצעי הבטיחות להדביק את הקצב. הוא הציע שלושה צעדים: מעריכים עצמאיים שיקבלו גישה רחבה למערכות, תיאום בין חברות וממשלות דמוקרטיות סביב תקני בטיחות, ובהמשך גם שיתוף פעולה בינלאומי רחב יותר. 1

המסגרת של צ'ן שונה: מבחינתו, הסכנה אינה רק שמודלים מתקדמים יהפכו למסוכנים לכולם, אלא גם שיריבים ישתמשו בהם כדי לפגוע בשלטון המפלגה הקומוניסטית של סין, להוציא נתונים מסין ולשמר יתרון טכנולוגי מערבי. לכן, "בטיחות" כוללת גם פיקוח על מידע, סינון ביטחוני, שליטה מקומית בטכנולוגיות מפתח והתנגדות לקביעת כללים מבחוץ. 2

יש בכל זאת נקודת חפיפה מצומצמת: סין ציינה גם את הסיכון העתידי של מערכות AI אוטונומיות יותר, שעלולות לחמוק משליטה אנושית. הדבר מאפשר בסיס מוגבל לשיח בין ארה"ב לסין על בטיחות AI. אולם הוא אינו פותר את המחלוקת הרחבה יותר על שבבים, מודלים, תקנים וזהות הגורם שיכתיב את כללי הממשל הטכנולוגי. 3

סם אלטמן, מנכ"ל OpenAI, הביע תמיכה בקריאתו של אמודיי "לקבוע קצב" לפיתוח מודלי החזית, וציין תמיכה במעריכים חיצוניים בעלי גישה משמעותית למערכות. אילון מאסק הסתפק בתגובה: "דאריו צודק". הדגש שלהם, אפוא, היה האטה ובחינה של התקדמות יכולות מתקדמות — ולא התוכנית הממוקדת במדינה, בהגנת המשטר ובעצמאות טכנולוגית שמציג צ'ן. 1

התגובה הרשמית והתקשורתית בסין ממחישה את הפער: קריאות מערביות להאטת הפיתוח הוצגו שם כמונעות מפחד, כמזיקות לתחרות, או כניסיון לבלום את ההתקדמות הטכנולוגית של סין — ולא כמדיניות בטיחות ניטרלית. 2 לכן, מגעים דו-צדדיים מתוכננים בין ארה"ב לסין בנושא בטיחות AI משקפים דאגה משותפת מוגבלת, סביב מערכות שעלולות להיות קשות לפיקוח, בתוך תחרות אסטרטגית רחבה בהרבה. 3