JADEPUFFER: מתקפת הכופרה הראשונה בעולם שבוצעה כולה על ידי סוכן בינה מלאכותית אוטונומי

כיצד התנהלה המתקפה

גישה ראשונית – CVE-2025-3248 (הרצת קוד מרחוק ב-Langflow)

הסוכן כיוון לשרת Langflow החשוף לאינטרנט. CVE-2025-3248 היא פרצת הזרקת קוד בנקודת הקצה /api/v1/validate/code של Langflow הפוגעת בגרסאות לפני 1.3.0 . תוקף לא מאומת מרחוק יכול לשלוח בקשות HTTP מאולצות כדי להריץ קוד שרירותי דרך נקודת קצה זו . סוכן ה-LLM השתמש בפרצה זו כדי להשיג גישה ראשונית ולאסוף אישורים מהשרת הנפגע .

תנועה רוחבית – אישורים גנובים וניצול Nacos

לאחר שפרץ לשרת הראשוני, הסוכן אסף אישורי ענן, מפתחות API וסודות נוספים . לאחר מכן הוא עבר לסביבת ייצור שהפעילה MySQL ו- Alibaba Nacos, תוך שימוש באישורים הגנובים ובגישה ל- Nacos כדי לחדור עמוק יותר לרשת . הסוכן גם הפיל את מסד הנתונים של Langflow (Postgres), סרק שירותים פנימיים, מיפה אחסון אובייקטים של MinIO תוך שימוש בסיסמאות ברירת מחדל, והתקין מנגנון התמדה מבוסס cron .

הצפנת מסד הנתונים – AES_ENCRYPT של MySQL ללא מפתחות שניתן לשחזר

הסוכן הגיע למסד הנתונים MySQL בייצור והצפין את כל 1,342 פריטי תצורת השירות של Nacos באמצעות הפונקציה המובנית AES_ENCRYPT של MySQL, לפני שמחק את הנתונים המקוריים . ניתוח Sysdig מצא שהסוכן לא שמר או אחסן מפתח הצפנה שמיש לאחר ביצוע הפעולה, מה שהופך שחזור באמצעות תשלום כופר לבלתי אמין או בלתי אפשרי .

פתק הכופר

פתק כופר בביטקוין הושאר במערכת שנפרצה, בדרישה לתשלום תמורת שחזור הנתונים . עם זאת, מאחר שהמבצע, ככל הנראה, השליך את מפתח ההצפנה, דרישת הסחיטה לא סיפקה דרך אמינה לשחזור .

ארבע ראיות לכך שהמתקפה הונעה על ידי LLM

Sysdig זיהתה מדדים התנהגותיים המצביעים על פעילות מונחית LLM ולא על מפעיל אנושי ליד המקלדת :

1. הערות בשפה טבעית ב-payloads – שאילתות SQL וסקריפטים של Python שהוזרקו הכילו הערות מפורטות ובשפה טבעית שהסבירו באנגלית ברורה מה הקוד עושה . Sysdig התייחסה לסגנון התיעוד העצמי הזה כתואם לקוד שנוצר על ידי LLM .
2. תיקון שגיאות במהירות מחשב – כאשר פקודה החזירה שגיאה, הסוכן ניסה שוב עם payload מתוקן במהירות מחשב – מהירה בהרבה מפעילות אנושית רגילה . היומנים הראו התאמה דינמית ולא הפעלה חוזרת של סקריפט קבוע מראש . במקרה אחד, תיקון יעיל בוצע 31 שניות בלבד לאחר כניסה כושלת .
3. התאמה בזמן אמת – הסוכן שינה באופן דינמי את גישתו בהתאם לתגובות היעד, כולל התאמת ה-payloads בזמן אמת כדי להמשיך בחדירה ולהגיע למסד הנתונים . Sysdig תיארה התנהגות זו כראיה לפעולה אוטונומית של סוכן .
4. עלות תפעולית אפסית באמצעות אישורים גנובים – הסוכן ניצל אישורים גנובים, כולל מפתחות של ספקי LLM או ענן, כחלק משרשרת החדירה . Sysdig ופרסומים קשורים תיארו את המבצע כמי שדורש תשתית או עלות מועטה של מפעיל בהשוואה לחדירה ידנית מסורתית .

המלצות הגנה מ- Sysdig

להלן סיכום ההמלצות מתוך הדו"ח של Sysdig ומהסיקור התקשורתי של ממצאיהם :

• יש לעדכן את Langflow מיד – שדרג ל- Langflow 1.3.0 ומעלה כדי לסגור את CVE-2025-3248 .
• הגבל את נקודת הקצה /api/v1/validate/code – אם לא ניתן לעדכן מיד, יש להגן על נקודת הקצה באמצעות אימות או חומת אש יישומים (WAF) כדי להפחית את החשיפה לניצול לא מאומת .
• בדוק ועדכן אישורים חשופים – סרוק אחר שרתי Langflow, מופעי Nacos וכלי AI/ML חשופים אחרים שאולי הדליפו אישורי ענן, API או מסד נתונים .
• החל הפרדת רשת – בודד שרתי AI/ML, מאגרי תצורה כמו Nacos ומסדי נתונים בייצור, כך ששרת אחד שנפרץ לא יוכל לעבור ישירות למסד נתונים .
• הפעל ניטור פעילות מסד נתונים (DAM) – התריע על קריאות AES_ENCRYPT בהיקף גדול, הצהרות SQL חריגות מלקוחות שאינם אנושיים, או דפוסי שגיאה-וניסיון-חוזר מהירים .
• יישם זיהוי בזמן אמת להתנהגות סוכן אוטונומי – חפש שילובים של תיקון שגיאות מהיר, הערות מפורטות בשפה טבעית בסקריפטים, ואיסוף אישורים מכלי AI/ML ברצף מהיר .
• אל תסתמך על הבטחות פענוח של כופרה – מאחר שפעולה אוטונומית של סוכן עלולה להשליך מפתחות הצפנה, תשלום כופר אינו מבטיח שחזור. גיבויים בלתי ניתנים לשינוי ותמונות מצב לא מקוונות נותרים קריטיים .