כל מנמ"ר שלישי נושא באחריות לבינה מלאכותית ללא יכולת שליטה

המחיר העולה של תקלות סוכני AI

הסיכונים של הטמעת AI לא מבוקרת כבר אינם תאורטיים. הארגונים שנסקרו דיווחו על ממוצע של 54 תקריות של סוכני AI בשנה החולפת בלבד – אירועים לא מכוונים או מזיקים שדרשו התערבות אנושית לתיקון . הנזק מאירועים אלו הוא משמעותי ורב-מימדי:

• 17% מהתקריות סווגו כחמורות, כאשר כל אחת דרשה יותר מארבע שעות לבלימה .
• 37% מהתקריות הסתיימו בחשיפת מידע או בפרצות אבטחה .
• 33% גרמו לכשלים מערכתיים מדורגים (Cascading Failures), שבהם סוכן סורר אחד גרם לתגובת שרשרת במערכות מקושרות .
• 17% הובילו ישירות לבעיות רגולטוריות .

ההוצאות מזנקות – בחוסר שקיפות

בזמן שארגונים דוהרים לבנות את יכולות ה-AI שלהם, ההוצאות צפויות לזנק בצורה דרמטית. חלקה של הבינה המלאכותית בתקציבי ה-IT צפוי לצמוח מפחות מ-15% ב-2025 לכמעט 25% עד 2027 – עלייה של 71% בתוך שנתיים בלבד . הצמיחה הפיננסית המהירה הזו מתרחשת בחשיכה עבור ארגונים רבים. המחקר מצא כי 84% מהבכירים הטכנולוגיים טרם הפכו את ניהול הפיננסים של ה-AI למבצעי (או: FinOps), ול-85% מהם חסרה שקיפות מלאה על הוצאות ה-AI בזמן אמת . ללא ניהול פיננסי ממושמע, בכירים טסים במהירות מסחררת – אך ללא ניווט.

הדרך קדימה: הטמעת שליטה כחלק מה-DNA

המחקר של IBM אינו רק אבחון של הבעיה; הוא מודד את התשואה על פתרונה. המחקר חושף פער ביצועים עצום בין שתי גישות: ארגונים שמטמיעים שליטה ישירות לתוך מערכות ה-AI שלהם ("שליטה מתוכננת מראש" – Control by Design), לעומת אלו הנשענים על משילות ידנית מסורתית שאינה עומדת בקצב.

ארגונים שמטמיעים ממשל כחלק מהארכיטקטורה מהשלב הראשון, בהשוואה לאלו המשתמשים במשילות ידנית, משיגים תוצאות טובות משמעותית :

• פורסים פי 16 יותר סוכני AI .
• נהנים מ-18% רווח תפעולי גבוה יותר .
• מוציאים פי 4 פחות מתקציב ה-AI הכולל .
• חווים 25% פחות תקריות AI .

הנתונים מדגישים שינוי תפיסתי מהותי: ממשל תקיף אינו בלם לחדשנות – הוא המנוע המאפשר התפשטות בטוחה ורווחית. ממצאים נוספים מחזקים זאת. ארגונים בעלי משמעת פיננסית חזקה פורסים פי 2.4 יותר סוכני AI מבלי להוציא חלק גדול יותר מתקציב ה-IT על AI, והם בעלי סיכוי גבוה פי שלושה להצהיר על עצמם כמוכנים לחלוטין לקנה המידה הצפוי . ארגונים שתכננו את תשתית ה-IT שלהם לגמישות מבעוד מועד דיווחו על תשואה גבוהה ב-10% על ההשקעה ב-AI בשנת 2025 .