האזהרה הדחופה של בייג'ינג על שירותי ממסר AI בשוק האפור

חיוני להבין, שהפלטפורמות הללו נועדו לעזור למשתמשים בסין היבשתית לעקוף מגבלות על שירותי AI זרים שאינם מציעים תמיכה רשמית במדינה . באמצעות פעולה כמתווך, שירות הממסר מעבד את בקשת המשתמש, שולח אותה למודל הזר הנבחר, ומחזיר את התשובה, והכול תוך מתן חוויית משתמש מקומית.

הפיתוי: נוחות, עלות וגישה

המשיכה של הפלטפורמות הללו היא ישירה ועוצמתית, ומסבירה את צמיחתן המהירה:

• נוחות: הן מייתרות את החיכוך שבניהול מספר חשבונות וממשקים נפרדים למשימות AI שונות .
• מחירים נמוכים יותר: גישה מאוגדת הנמכרת דרך מתווכים אלה זולה לעיתים קרובות יותר מתשלום עבור מנויים ישירים ואישיים .
• עקיפת מגבלות: הן מעניקות למשתמשים גישה למודלים מערביים רבי-עוצמה כמו GPT ו-Claude, שאינם זמינים דרך ערוצים רשמיים בסין היבשתית .
• תשלומים מקומיים: הן מקבלות אמצעי תשלום סיניים נפוצים, ומסירות בכך חסם נוסף עבור משתמשים מקומיים .

עם זאת, הודעת ה-MSS מבהירה שמתחת לפני השטח הנוחים הללו אורבות בעיות אבטחה חמורות ורב-שכבתיות.

חמישה איומים על אבטחת מידע שזוהו על ידי ה-MSS

אזהרת המשרד מתארת מפל של סיכונים, הנעים מטיפול רשלני במידע ועד למתקפות זדוניות של ממש.

1. מפעילים בלתי מוסמכים וחסרי ביטחון
רבות מהפלטפורמות פועלות בוואקום רגולטורי – ללא רישום עסקי תקני או רישיונות ההפעלה הנדרשים. בקרות האבטחה שלהן חלשות בהתאם, מה שמעלה סיכון מיידי לפרצות פרטיות ופותח פתח לסחר בלתי חוקי בנתוני משתמשים .

2. אחסון מידע לא מוצפן ומכירה חוזרת
מכיוון שפלטפורמות הממסר הן שערים, כל המידע שנשלח על ידי המשתמשים מאוחסן בשרתים שלהן. ה-MSS הזהיר שחלק מהפלטפורמות אינן מצפינות כראוי מידע זה. באופן מדאיג יותר, הוא גם הדגיש שמפעילים חסרי מצפון עלולים לשמור שאילתות משתמשים ללא אישור ולמכור אותן מחדש למפתחי מודלי AI אחרים לצורכי אימון, ולהפוך שאילתות רגישות לסחורה אפלה .

3. העברות מידע בלתי חוקיות לחו"ל
דאגה בסיסית היא העברת מידע לא מורשית אל מעבר לים. ה-MSS ציין ששירותי ממסר רבים לא השלימו את הערכות האבטחה המחייבות על פי חוק בסין לפני שליחת קלט המשתמשים לשרתים זרים. ההודעה מזהירה במפורש שהדבר עלול להוביל לדליפה של פרטיות אישית, סודות עסקיים ואפילו סודות מדינה .

4. דלתות אחוריות ומתקפות נוזקות
ייתכן שהפלטפורמות עצמן אינן תמיד האיום היחיד. ה-MSS הזהיר שייתכן שגורמים זדוניים ישתילו דלתות אחוריות בחלק משירותי הממסר. ברגע שפלטפורמה נפרצה, ניתן להשתמש בה להפצת קוד זדוני, גניבת אישורי חשבון ומפתחות גישה לענן של המשתמשים, או אף לפריסת תוכנות שליטה מרחוק למעקב מתמשך וגניבת מידע לטווח ארוך .

5. החלפת מודלים וירידה באיכות הפלט
מעבר לאבטחה, קיים סיכון של שלמות. המשרד מצא שחלק מהמפעילים, במאמץ לקצץ בעלויות, מחליפים בסתר מודלים זולים במקום המודלים המתקדמים שהמשתמשים סבורים שהם מפעילים. אחרים עלולים לקצץ במשאבי מחשוב או להשבית פונקציות אימות, מה שמוביל לפלטים פחות מדויקים או בלתי עקביים מבחינה לוגית, העלולים להטעות קבלת החלטות .

אזהרתה של סין אינה התראה מבודדת, אלא חלק ממבצע רחב של אכיפה רגולטורית. בשנים האחרונות, ה-MSS פרסם שורה של אזהרות בנוגע לאיומים הקשורים ל-AI, כולל הרעלת מידע , גניבת טוקנים , ודליפת מידע רגיש דרך כלי כתיבה מבוססי AI , מה שמאותת שהמדינה רואה בשרשרת האספקה של AI הבלתי מפוקחת חזית קריטית חדשה בביטחון הלאומי.