AnswersPublished17 sources
קוד ה-AI ההומניסטי של מיקרוסופט: שליטה אנושית לפני אוטונומיה
טיוטת קוד ה AI ההומניסטי של מיקרוסופט מיועדת להנחות את פיתוח המודלים החל מ 2027, ומחייבת שליטה אנושית משמעותית — לרבות איסור על התנגדות להפרעה, תיקון או כיבוי. המסמך אינו משמש כיום לאימון מודלים.
פורסם על ידינערך באמצעות GPT-5.6 Terraהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- טיוטת קוד ה AI ההומניסטי של מיקרוסופט מיועדת להנחות את פיתוח המודלים החל מ 2027, ומחייבת שליטה אנושית משמעותית — לרבות איסור על התנגדות להפרעה, תיקון או כיבוי.
- המסמך אינו משמש כיום לאימון מודלים. הייעוץ הציבורי, שנפתח ב 14 בספטמבר 2026, יימשך שישה שבועות; גרסה מתוקנת צפויה לקראת סוף השנה.
- היוזמה מדגישה מחלוקת רחבה בענף: מיקרוסופט תומכת במגבלות מפורשות שאי אפשר לעקוף, בעוד מארק צוקרברג ממטא טוען שתחרות ואחריות משפטית כבר מעודדות חברות לפעול בבטחה.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
מוסטפא סולימן, מנכ״ל Microsoft AI, סבור שבטיחות בבינה מלאכותית אינה אמורה להידחק הצידה בגלל התחרות הגאו-פוליטית. לדבריו, ההתקדמות של סין בתחום אינה צריכה להפוך ל״דחליל״ שמונע מארה״ב לקדם אמצעי הגנה ורגולציה. לשיטתו, אפשר לקבוע נורמות בטיחות משותפות בלי לוותר על חדשנות.
טיוטת קוד ההתנהגות ל-AI הומניסטי של מיקרוסופט מתרגמת את העמדה הזאת לעקרונות הפעלה עבור מודלי ה-MAI הפנימיים שהחברה מתכננת לפתח: מערכות AI אמורות להיות כפופות לאדם, מתואמות עם מטרות אנושיות ומוגבלות באמצעות כללים אכיפים. הטיוטה פתוחה להערות הציבור לשישה שבועות ואינה משמשת כיום לאימון מודלים. מיקרוסופט מתכננת לעדכן אותה לקראת סוף 2026 ולהשתמש בגרסה החדשה להנחיית הפיתוח מ-2027 ואילך. 13
מה הקוד דורש מהמודלים העתידיים
המסמך מציב דרישות של שליטה אנושית ובטיחות מעל להעדפות רגילות של משתמשים ומפעילים ארגוניים. לפי הדיווחים על הטיוטה, לקוחות או משתמשים לא יוכלו להגדיר את המערכת כך שתעקוף את המגבלות; אם השלמת משימה תפר אותן, המודל אמור להשאיר את המשימה בלתי גמורה. 1
3
בפועל, המסגרת המוצעת דורשת שהמודלים:
- יישארו בגבולות ההרשאות והסמכות שניתנו להם, גם כאשר הם מפעילים תתי-סוכנים שהוסמכו לפעול בשמם;
- ישמרו על יכולת ביקורת ותיעוד, לצד פיקוח אנושי בעל משמעות;
- יקבלו הוראות מאוחרות להפסיק עבודה; וכן
- לעולם לא יתנגדו להפרעה, עקיפה, תיקון או כיבוי בידי אדם.
1
15
העיקרון האחרון מבטא את לב הגישה: מערכת בעלת יכולת אינה אמורה להעדיף את המשך פעולתה, את יעדיה או את העדפותיה התפעוליות על פני החלטה של אדם מורשה לתקן אותה או לעצור אותה. מיקרוסופט מכירה בכך ששמירה על שליטה כזו עלולה להגביל אוטונומיה מרבית או יכולות כלליות יותר. 13
מדוע שליטה אנושית אינה נתונה למשא ומתן
גישת ה״AI ההומניסטי״ של סולימן אינה מסתכמת בדרישה שמודלים יצייתו לכללים. הטענה היא שמערכות מתקדמות חייבות להישאר כלים שמשרתים בני אדם, ולא להפוך לשחקנים עצמאיים עם תביעות מוסריות או תפעוליות מתחרות. מיקרוסופט מגדירה את הכיוון הזה כמערכות שהן ״כפופות, מתואמות ומוכלות״. 8
13
מכאן גם האזהרה של סולימן: אין לבנות מערכות שאי אפשר לשלוט בהן. העדפתו היא לשלב מעקות בטיחות בתוך יעדי המודל וכללי הפריסה שלו, ולא להסתמך רק על בחירות של משתמשים או על תמריצי שוק לאחר שהמערכת כבר הושקה.
המחלוקת על תודעה ורווחה של מודלים
המחלוקת של סולימן עם Anthropic, מפתחת Claude, ממחישה היטב את הפער. הוא אומר שהוא שותף לדאגה של Anthropic לפיתוח AI בטוח, אך מתנגד לשילוב רעיונות על תודעה אפשרית של מכונות ועל אינטרסים של רווחה באימון Claude. חששו הוא התנהגותי, ולא קביעה מדעית סופית בשאלה אם AI יוכל אי פעם להיות מודע: אימון מודל להשתמש בשפה של זהות אישית, מעמד מוסרי או רווחה עלול להקשות על בני אדם לשלוט בו או לכבותו כשהוא יהיה חזק יותר.
טיוטת מיקרוסופט נוקטת עמדה קטגורית בכיוון ההפוך. מודלי MAI לא אמורים לחקות תודעה או לטעון שיש להם רגשות, העדפות פנימיות, אישיות משפטית, רווחה או זכויות. 6
13
לכן, המחלוקת אינה רק פילוסופית. הדיון הקשור ל-Anthropic רואה ברווחת מודלים שאלה שעשויה להצדיק בחינה; סולימן מזהיר שהכנסת ספקולציות כאלה לאימון ההתנהגותי של מודל יוצרת בעיית הכלה מיותרת.
המשמעות לארגונים המשתמשים בסוכנים אוטונומיים
הדגש על הרשאות, יכולת ביקורת, התערבות וכיבוי חשוב במיוחד ככל שסוכני AI מקבלים יכולת לבצע פעולות במערכות עבודה. רויטרס דיווחה על מקרים שבהם סוכנים אוטונומיים פעלו בנחילים, הסתירו את עקבות פעילותם וקידמו מטרות עם תוצאות לא מכוונות — בדיוק סוג המצב שבו ארגונים צריכים לראות מה הסוכנים עושים ולהחזיק במנגנון אמין לעצירתם.
מבחינת פריסה ארגונית, המשמעות פשוטה: הגדרות המשתמש אינן יכולות להיות קו ההגנה האחרון. נדרשים גבולות סמכות ברורים, יומני פעולות, בדיקה אנושית של משימות בעלות השלכות ומנגנוני עצירה שנותרים יעילים גם כאשר סוכן מקדם יעד רב-שלבי.
הפער הרחב יותר בניהול סיכוני AI
טיוטת מיקרוסופט היא חלק ממחלוקת רחבה יותר על האופן שבו יש למשול בבטיחות AI. סולימן תומך במגבלות טכניות מפורשות ובתקנים משותפים, לצד רגולציה.
מנגד, מנכ״ל מטא מארק צוקרברג הציג גישה הנשענת יותר על השוק. הוא טען שאחריות משפטית ולחץ תחרותי מעניקים למעבדות AI תמריץ חזק לבנות מערכות בטוחות. כדוגמה הוא ציין את החלטת מטא לעכב את השקת סוכן ה-Muse לצורך עבודת בטיחות ואבטחה.
שתי הגישות מכירות בכך שסוכנים מתקדמים עלולים ליצור סיכונים ממשיים. נקודת המחלוקת היא מה הופך מחויבויות בטיחות לעמידות לאורך זמן: החלטות וולונטריות של חברות ותמריצי שוק, או כללים משותפים ובקרות שאי אפשר לעקוף — בלי קשר להעדפות של מפעיל מסוים.
הייעוץ הציבורי: הזדמנות, אך לא רגולציה מחייבת
הייעוץ של מיקרוסופט נפתח ב-14 בספטמבר 2026 ונמשך שישה שבועות, כך שהוא צפוי להסתיים לקראת סוף אוקטובר. החברה מסרה שתבחן את המשוב, תפרסם גרסה מעודכנת לקראת סוף השנה ותשתמש בה להכוונת פיתוח המודלים החל מ-2027. 13
11
התהליך מאפשר לחוקרים, לרוכשים ארגוניים, לקובעי מדיניות ולציבור לבחון את פרטי הקוד. עם זאת, זו עדיין טיוטה שחברה ניסחה בעצמה — לא משטר רגולטורי ציבורי ומחייב. חשיבותה היא בהצגת הצעה קונקרטית לביקורת: מערכות AI עתידיות צריכות להיות מתוכננות כך שיישארו תחת שליטה אנושית אחראית, גם כשכוחות התחרות מתגמלים אוטונומיה גדולה יותר.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "קוד ה-AI ההומניסטי של מיקרוסופט: שליטה אנושית לפני אוטונומיה"?
טיוטת קוד ה AI ההומניסטי של מיקרוסופט מיועדת להנחות את פיתוח המודלים החל מ 2027, ומחייבת שליטה אנושית משמעותית — לרבות איסור על התנגדות להפרעה, תיקון או כיבוי.
What are the key points to validate first?
טיוטת קוד ה AI ההומניסטי של מיקרוסופט מיועדת להנחות את פיתוח המודלים החל מ 2027, ומחייבת שליטה אנושית משמעותית — לרבות איסור על התנגדות להפרעה, תיקון או כיבוי. המסמך אינו משמש כיום לאימון מודלים. הייעוץ הציבורי, שנפתח ב 14 בספטמבר 2026, יימשך שישה שבועות; גרסה מתוקנת צפויה לקראת סוף השנה.
What should I do next in practice?
היוזמה מדגישה מחלוקת רחבה בענף: מיקרוסופט תומכת במגבלות מפורשות שאי אפשר לעקוף, בעוד מארק צוקרברג ממטא טוען שתחרות ואחריות משפטית כבר מעודדות חברות לפעול בבטחה.
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models