המדריך הסינגפורי בן 116 העמודים: 7 כללים לפיקוח אחראי על בינה מלאכותית

2. למדוד תוצאות — לא פעילות סביב AI

השקעות ב-AI צריכות להיבחן לפי תוצאות עסקיות מוחשיות, ולא לפי נתוני אימוץ בלבד. המדריך מבחין בין פעילות — למשל פיילוטים, רכישת רישיונות, הדרכות וניסויים — לבין ערך ממשי, כמו שיפור תהליכי עבודה, חיסכון בזמן, שיפור חוויית הלקוח והשפעה תפעולית.

לכן על הדירקטוריון לשאול:

• איזו בעיה עסקית המערכת אמורה לפתור?
• איזו תוצאה צפויה להשתפר, ובאיזה שיעור?
• כיצד תימדד ההתקדמות?
• אילו ראיות מצדיקות מעבר מפיילוט להטמעה רחבה?
• מהן עלויות הפיקוח, האבטחה, האינטגרציה והכשל האפשרי?

מספר גדול של ניסויים עשוי להעיד על עניין רב, אך הוא אינו מוכיח כשלעצמו החזר על ההשקעה.

3. להפוך ניסויים של עובדים ליכולת ארגונית מנוהלת

עובדים מגלים לא פעם שימושים יעילים ב-AI עוד לפני שהארגון מגבש תוכנית רשמית. המדריך מעודד דירקטוריונים והנהלות לנצל את הידע הזה, אך להכניס את הניסויים למסגרת הבקרה הארגונית.

בפועל, הדבר דורש לתעד כלים שנבנו בעזרת AI, להגדיר מי רשאי להשתמש בהם ולאילו מטרות, ולוודא שהם עומדים בדרישות הבטיחות והממשל הרלוונטיות. המטרה אינה לחסל את החדשנות, אלא למנוע מצב שבו אב-טיפוס שימושי הופך למערכת בלתי נראית ובלתי נתמכת, שמשפיעה על לקוחות, עובדים או מידע ארגוני ללא הגנות מתאימות.

4. להתייחס לסיכוני AI כסיכונים כלל-ארגוניים

ניהול AI אינו מסתכם בבדיקת ביצועי המודל. על הדירקטורים לבחון גם סיכונים אתיים, קיברנטיים, הקשורים לנתונים, בטיחות, פרטיות וכוח אדם — וכן את ההשפעה על החוסן הארגוני ועל יצירת הערך לטווח הארוך.

הדירקטוריון צריך לדעת היכן נעשה שימוש ב-AI, אילו נתונים וספקי צד שלישי מעורבים, מי אחראי על כל מערכת, כיצד מדווחים על תקריות ומתי יש לעצור פריסה או לבצע בדיקה מחודשת. רמת הבקרה צריכה להיות proportionalית לתוצאות האפשריות של כשל: כלי פנימי לשיפור פרודוקטיביות אינו דורש בהכרח את אותן בקרות כמו מערכת שמשפיעה על תעסוקה, גישה של לקוחות לשירות או בטיחות.

5. לקבוע פיקוח אנושי וקווים אדומים

המדריך קורא להגדיר מראש גבולות ברורים לקבלת החלטות. על הדירקטוריון לקבוע מתי נדרשת בדיקה אנושית, ולזהות "קווים אדומים" שבהם אסור לקבל החלטה אוטומטית — במיוחד כאשר היא משפיעה על לקוחות, עובדים, בטיחות או פרטיות.

פיקוח אנושי אמיתי מתקיים רק כאשר לאדם שבודק את ההמלצה יש די מידע, סמכות וזמן כדי להטיל ספק בתוצאה או לבטל אותה. שלב אישור סמלי לא צריך להפוך לחותמת גומי שמכשירה החלטה שהתקבלה בפועל על ידי מערכת אוטומטית.

6. להגן על עובדים ומועמדים בהחלטות בסיוע AI

שימוש ב-AI בגיוס, בקידום או בהערכת ביצועים עלול להשפיע ישירות על הזדמנויות ועל פרנסתם של אנשים. המדריך ממליץ שבשימושים כאלה יתקיימו בדיקה אנושית, בדיקות להטיה ובקרות על איכות הנתונים, לצד הליך ברור שבאמצעותו מי שנפגע מהחלטה יוכל לערער עליה או לבקש בדיקה מחודשת.

עבור הדירקטוריון, המשמעות היא שהוגנות הופכת מעיקרון כללי לשאלת פיקוח מעשית: אילו ראיות מראות שהמערכת פועלת כפי שתוכנן? אילו קבוצות עלולות להיפגע? וכיצד אדם יכול לערער על התוצאה?

7. להשאיר את החוסן הקיברנטי והאחריות ברמת הדירקטוריון

המדריך ממקם את ה-AI בתוך האחריות הרחבה יותר לשמירה על החוסן הארגוני והדיגיטלי. המלצותיו משקפות ציפייה גוברת לכך שדירקטוריונים יפקחו באופן פעיל על סיכונים הקשורים ל-AI, כולל איומי סייבר, ולא יניחו שהצוותים הטכנולוגיים לבדם יכולים לנהל אותם.

על הדירקטורים לשאול את ההנהלה כיצד AI משנה את משטח התקיפה של הארגון, כיצד מוגן מידע רגיש, כיצד נבדקים ספקים ומה יקרה אם מערכת AI תיפרץ או תייצר פלט מזיק. אמצעי הבקרה המדויקים ישתנו מארגון לארגון, אבל האחריות לשאול את השאלות נשארת אצל הדירקטוריון.

חמש שאלות שאפשר להתחיל איתן

בדיקה ראשונית של הארגון יכולה להתחיל בחמש שאלות:

1. איפה כבר נעשה שימוש ב-AI — כולל בכלים שבנו עובדים בעצמם?
2. אילו מערכות הן בעלות חשיבות אסטרטגית או השפעה גבוהה?
3. אילו מדדי ערך וסיכון ההנהלה מציגה לדירקטוריון?
4. באילו מקרים בדיקה אנושית היא חובה, ובאילו מקרים אסורה החלטה אוטומטית?
5. האם אנשים שנפגעו מהחלטה יכולים לערער עליה, והאם הארגון מסוגל לעצור מערכת בבטחה?

השורה התחתונה של המדריך היא שפיקוח אחראי על AI אינו מסמך מדיניות חד-פעמי. דירקטוריונים זקוקים לאוריינות מספקת כדי לפקח על האסטרטגיה, לראיות מספיקות כדי להעריך את הערך, ולסמכות מספקת כדי להציב גבולות כאשר הסיכונים עולים על התועלת.