כשה-AI מתחיל לסחור לבד: סינגפור מנסה להקדים את הסיכון הפיננסי

הבינה המלאכותית כבר אינה רק כלי שמסכם מסמכים או מציע תובנות. מערכות המכונות Agentic AI — “בינה מלאכותית סוכנת” — מסוגלות לתכנן מהלכים, להסיק מסקנות ולבצע פעולות בעולם האמיתי, לעיתים עם מעט מאוד התערבות אנושית.

בעולם הפיננסי, המשמעות עשויה להיות החלטה על עסקה, תשלום, שינוי במסד נתונים או פעולה בתהליך ברוקראז’ — והכול במהירות שמערכות אנושיות מתקשות לעקוב אחריה. לכן הרגולטורים אינם מתמקדים עוד רק בשאלה אם המודל “הזוי” או מדויק, אלא גם בשאלה מי אחראי כאשר מערכת אוטונומית פועלת בעצמה.

למה הרגולטורים מודאגים?

סיכון ליציבות המערכת הפיננסית

מועצת היציבות הפיננסית (FSB) קראה ביוני 2025 למוסדות פיננסיים לאמץ בהקדם אמצעי הגנה מפני מערכות AI אוטונומיות יותר, המסוגלות לתכנן ולבצע משימות מורכבות בפיקוח אנושי מוגבל ^AI. החשש הוא לא רק לטעות של מוסד יחיד, אלא להתנהגות מתואמת או דומה של מערכות רבות — שעלולה להפיץ במהירות החלטות שגויות בין שווקים וגופים פיננסיים.

גם הבנק המרכזי של אנגליה אותת ביוני 2026 כי ייתכן שיידרש רגולציה ייעודית ל-AI, לאחר שהתפתחויות בתחומים כמו תשלומים ומסחר אוטונומיים חשפו פערים אפשריים במסגרת הקיימת ^M. באירופה הזהירו בנקאים מרכזיים ורגולטורים כי קצב התפתחות ה-AI מקדים את קצב עדכון הכללים, ובכך נוצר סיכון לשלמות השוק וליציבותו ^C.

סייבר, תלות בספקים וריכוזיות מודלים

רגולטור פיננסי בכיר בשווייץ אמר ביוני כי ה-AI “מגביר בעוצמה” את סיכוני הסייבר. מודלים חדשים מסוגלים לזהות פגיעויות תוכנה בקנה מידה רחב, אך אותה יכולת עלולה לשמש גם תוקפים ^R.

ניתוחים של ה-BIS, ה-OECD וה-FSB מצביעים בנוסף על סיכונים הנובעים מתלות בספקי טכנולוגיה חיצוניים, מהתנהגות דומה של מודלים ומריכוזיות — מצב שבו מספר קטן של מודלים או תשתיות משמש חלק גדול מהמערכת הפיננסית ^AB.

הונאות ופגיעה בצרכנים

הוועדה למסחר בחוזים עתידיים על סחורות בארצות הברית (CFTC) הזהירה צרכנים מפני הונאות השקעה המתחזות לכלים המבוססים על AI. לפי האזהרה, נוכלים משתמשים בטענות על “מערכות השקעה חכמות” שמבטיחות תשואות חריגות, ומגבירים את החשיפה אליהן באמצעות רשתות חברתיות ^C.

החרפת סיכונים פיננסיים מוכרים

ה-BIS ציין כי שימוש נרחב ב-AI עלול להעצים סיכונים מוכרים במערכת הפיננסית — בהם סיכון אשראי, סיכון נזילות, סיכון מודל, סיכון תפעולי וסיכון מוניטין ^B. במילים אחרות, AI אינו יוצר בהכרח קטגוריות סיכון חדשות; הוא עלול להפוך סיכונים קיימים למהירים, רחבים וקשים יותר לזיהוי.

FINRA, הגוף המפקח על חברות הברוקראז’ בארצות הברית, שילבה בדוח הפיקוח שלה ל-2026 התייחסות ייעודית למערכות Agentic AI בתוך תהליכי ברוקראז’. בכך עובר הדיון ב-AI מפיקוח על תקשורת ושיווק אל לבן של חובות הפיקוח, הבקרה ושמירת הרשומות ^SF.

התגובה של סינגפור: כמה שכבות של הגנה

סינגפור בונה מענה מתואם בין רשות המטבע של סינגפור (MAS), הרשות לפיתוח מדיה ומידע (IMDA) והתעשייה הפיננסית. המענה כולל כמה יוזמות משלימות:

יוזמה	הגוף המוביל	מועד	מה היא כוללת
SAFR — Safeguards for Agentic Finance at Runtime	MAS	3 ביולי 2026	מסמך עקרונות להגנה על סוכני AI בזמן פעולתם בשירותים פיננסיים, כולל נקודות ביקורת לבדיקת פעולות ולתיעודן לפני הביצוע EN
Model AI Governance Framework for Agentic AI	IMDA	22 בינואר 2026	מסגרת הממשל הייעודית הראשונה בעולם לסוכני AI אוטונומיים, שהושקה בפורום הכלכלי העולמי בדאבוס MAT
AI Risk Management Guidelines — AIRG	MAS	התייעצות מנובמבר 2025 עד ינואר 2026	קווים מנחים מוצעים לכל המוסדות הפיננסיים שבפיקוח MAS, בנושאי אחריות הנהלה, בקרות לאורך מחזור חיי ה-AI, מערכות לניהול סיכונים וסיכוני צד שלישי MMKP
AI Risk Management Toolkit — Project MindForge	MAS ו-ABS	מרץ 2026	ערכת כלים מעשית ליישום ניהול סיכוני AI במוסדות פיננסיים RL
National AI Safety Framework	IMDA	קודד במאי 2026	מסגרת לאומית מקיפה לבטיחות ולממשל AI, המתייחסת לאיומים הנובעים מהתרחבות מהירה של מערכות Generative AI ו-Agentic AI R

מה מיוחד ב-SAFR?

מסמך SAFR, שפורסם ב-3 ביולי 2026 בשיתוף מוסדות פיננסיים וחברות פינטק, הוא השכבה הממוקדת ביותר בשימוש ב-AI בתוך המערכת הפיננסית ^E. בניגוד למסגרת כללית שעוסקת בעקרונות של אחריות או שקיפות, SAFR מתמקדת ברגע שבו סוכן AI עומד לבצע פעולה בפועל.

המסמך מציע נקודות ביקורת בזמן ריצה: לפני שפעולה מתבצעת, המערכת אמורה לבדוק אותה מול מדיניות שהוגדרה מראש, לאשר שהיא עומדת בתנאים ולתעד את ההחלטה ^N. גישה כזו נועדה ליצור “בלמים” טכנולוגיים בתוך תהליך הפעולה עצמו — ולא להסתמך רק על בדיקה בדיעבד.

ארבעה עקרונות למסגרת ה-Agentic AI

מסגרת הממשל של IMDA מתמודדת עם כמה שאלות שהמסגרות הקודמות לא תמיד פתרו היטב: מי נותן את ההוראה, מי אחראי בכל שלב, ומה מותר לסוכן לבצע מבחינה טכנית ^Y.

בין העקרונות המרכזיים שלה:

• הגבלת האוטונומיה והגישה של הסוכן למידע, למערכות ולפעולות שהוא רשאי לבצע.
• שרשרת אחריות ברורה, עם אדם או גורם ארגוני אחראי בנקודות ביקורת מוגדרות.
• בקרות טכניות, לרבות בדיקות בסיס לפני הפעלה ומנגנונים שמונעים פעולות שאינן מורשות.
• אחריות משתמש הקצה, כך שהשימוש בסוכן לא יפטור את הארגון או את המשתמש מאחריות להתנהגותו ^L.

הציות למסגרת ה-IMDA הוא וולונטרי, אך ארגונים עדיין נותרים אחראים מבחינה משפטית להתנהגות ולפעולות של הסוכנים שהם מפעילים ^T.

ומה דורשת MAS מהמוסדות הפיננסיים?

הקווים המנחים המוצעים של MAS נועדו לחול על כלל המוסדות הפיננסיים שבפיקוחה — בהם בנקים, חברות ביטוח וחברות פינטק ^MKP. הם מתייחסים לכל מחזור חיי ה-AI: מתכנון ופיתוח, דרך הפעלה וניטור, ועד להוצאה משימוש.

המסגרת כוללת ציפיות לאחריות של הדירקטוריון וההנהלה הבכירה, מערכות לזיהוי השימושים ב-AI, מלאי מקיף של מודלים וכלים, וכן בקרות הנוגעות לספקי טכנולוגיה חיצוניים ^MK.

האם סינגפור מציגה מודל למדינות אחרות?

החשיבות של המהלך הסינגפורי אינה נובעת רק ממסמך יחיד. סינגפור משלבת מסגרות עקרוניות, קווים מנחים מגזריים, כלי יישום ושיתוף פעולה עם התעשייה — כלומר, שכבות שונות שמכסות הן את מדיניות הארגון והן את הרגע שבו מערכת AI עומדת לבצע פעולה.

בזמן שה-FSB, הבנק המרכזי של אנגליה ורגולטורים נוספים קוראים לחיזוק אמצעי ההגנה, המודל הסינגפורי מספק דוגמה מעשית לאופן שבו אפשר לנסות להכניס אחריות, תיעוד ונקודות עצירה לתוך פעילות של סוכנים אוטונומיים ^AMI.

עם זאת, המסגרות אינן מבטיחות שהסיכון ייעלם. הן בעיקר מנסות להבטיח שכאשר מערכת פועלת במהירות מכנית, עדיין יהיו סביבה גבולות ברורים, גורם אנושי אחראי ורישום שאפשר לבדוק לאחר מכן.