AnswersPublished16 sources
מי יפקח על הבינה העל־אנושית? שלושת התרחישים של סם אלטמן
לפי דיווחים, אלטמן תיאר שלושה תרחישים: גוף פיקוח בינלאומי בסגנון הסוכנות לאנרגיה אטומית, ארגון AI משותף במודל CERN, או חברה אחת שתוכל לחסום מתחרות גישה למשאבי מחשוב. נראה שאלטמן נטה לתמוך בפיקוח בינלאומי, והתנגד לתרחיש שבו מפתחת אחת צוברת כוח כלכלי שמאפשר לה לדחוק מתחרות.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- לפי דיווחים, אלטמן תיאר שלושה תרחישים: גוף פיקוח בינלאומי בסגנון הסוכנות לאנרגיה אטומית, ארגון AI משותף במודל CERN, או חברה אחת שתוכל לחסום מתחרות גישה למשאבי מחשוב.
- נראה שאלטמן נטה לתמוך בפיקוח בינלאומי, והתנגד לתרחיש שבו מפתחת אחת צוברת כוח כלכלי שמאפשר לה לדחוק מתחרות.
- הגוף התקני שחברות כמו OpenAI, Google ו Anthropic מקדמות מתואר כיוזמה תעשייתית — ולא כגוף בינלאומי בעל סמכויות אכיפה.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI staff about governing superintelligence through an IAEA-style international watchdog that sets sa. Article summary: Altman reportedly presented three possible ways to govern superintelligence, favoring shared international oversight and rejecting a scenario in which one AI developer becomes powerful enough to suppress its rivals; he r. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
סם אלטמן, מנכ״ל OpenAI, הציג לפי דיווחים שלושה תרחישים אפשריים לפיקוח על פיתוח בינה על־אנושית: גוף פיקוח בינלאומי, ארגון משותף למעבדות AI מובילות, או מצב שבו חברה אחת צוברת כוח רב כל כך שהיא יכולה להגביל את מתחרותיה. לפי הדיווחים, אלטמן נטה לתמוך באפשרות הראשונה ותיאר את השלישית כתרחיש נורא. 5
10
15
חשוב לסייג: מדובר בדיווחים על דברים שאמר לעובדי OpenAI, ולא בתוכנית מדיניות רשמית שפרסם. שלושת התרחישים מציגים דרכים שונות לענות על אותה שאלה: מי יקבע את כללי הבטיחות — ומי יוכל לאכוף אותם?
שלוש האפשרויות שעלו בדיווח
1. גוף פיקוח בינלאומי
האפשרות הראשונה היא להקים גוף בינלאומי לפיקוח על AI, במתכונת המזכירה את הסוכנות הבינלאומית לאנרגיה אטומית (IAEA). לפי הדיווחים, ממשלות וחברות AI יקבעו יחד תקני בטיחות, ומודלים מתקדמים יעברו בדיקה וביקורת עצמאיות לפני שיופצו. 5
הרעיון המרכזי הוא שהחברות שמפתחות את המודלים לא יהיו היחידות שמעריכות אם הם בטוחים: גורם חיצוני יוכל לבדוק אותם לפי כללים משותפים.
2. מעבדת AI משותפת במודל CERN
האפשרות השנייה, שכונתה בדיווחים ״תוכנית דמיס״ על שם דמיס הסאביס, מנכ״ל Google DeepMind, היא לאגד מעבדות AI מובילות בארגון משותף ורב־לאומי, בדומה ל-CERN — הארגון האירופי למחקר גרעיני. לפי התיאור, הארגון יפתח AI עבור המדינות המשתתפות. 5
11
בשונה מגוף פיקוח חיצוני, כאן הדגש הוא על פיתוח משותף בתוך מסגרת אחת, במקום על מעבדות נפרדות שפועלות תחת כללים שנקבעו מחוץ להן.
3. חברה אחת שולטת במשאבי המחשוב
התרחיש השלישי כונה ״תוכנית אליעזר״, על שם חוקר בטיחות ה-AI אליעזר יודקובסקי. לפי הדיווחים, חברה אחת עשויה לצבור יתרון כלכלי כזה שתוכל להגביל את הגישה של מתחרותיה למשאבי מחשוב — למשל למעבדים הגרפיים, או GPUs, שעליהם מאמנים ומפעילים מודלים. הדימוי של מתחרות ש״ממיסים להן את ה-GPU״ נועד להמחיש את הקיצוניות של התרחיש. אלטמן reportedly התנגד לו. 5
10
השם שניתן לתרחיש אינו מעיד שיודקובסקי עצמו תמך בתוכנית המסוימת הזאת. גם הדיווחים אינם מבססים את כל השלבים האפשריים שבאמצעותם חברה תוכל להגיע למעמד כזה.
למה ההבחנה בין האפשרויות חשובה
לפי הדיווחים, העדפתו של אלטמן לגוף פיקוח בינלאומי מצביעה על רצון שכללי הבטיחות ייקבעו וייבדקו גם מחוץ לחברות עצמן. עם זאת, המקורות אינם מפרטים בהרחבה מדוע העדיף את האפשרות הזאת על פני ארגון משותף בסגנון CERN. 5
15
ההבדל בין המודלים מהותי: גוף פיקוח אמור לקבוע תקנים ולבדוק את המפתחים; ארגון משותף מאגד את המפתחים במסגרת אחת; ובתרחיש השלישי, כוח ההכרעה מרוכז אצל חברה אחת. אלה מבנים שונים של ממשל, ולא שמות שונים לאותו רעיון.
ומה לגבי גוף התקינה שחברות ה-AI מקדמות?
בנפרד, דווח כי OpenAI, Google ו-Anthropic מקדמות הקמה של גוף תעשייתי לתקינה בתחום ה-AI המתקדם. בין מטרותיו האפשריות: לסייע להערכות עצמאיות ולקבוע ציפיות משותפות לבדיקות בטיחות או לדיווח על תקריות. 1
14
אין לבלבל בין יוזמה כזאת לבין גוף פיקוח בינלאומי: לפי הדיווחים, מדובר במהלך שמובילות חברות מהתעשייה, בעוד שהתרחיש הראשון של אלטמן מתאר גוף בינלאומי. המקורות אינם מראים שלגוף התקינה המוצע יהיו סמכות ציבורית או יכולת אכיפה כמו אלה שעשויות להשתמע ממודל של רגולטור בינלאומי. 5
14
בסופו של דבר, שלושת התרחישים מחדדים את השאלה מי יפקח על פיתוח AI מתקדם: גופים בינלאומיים, ארגון משותף של המעבדות, או שוק שבו חברה אחת עלולה לצבור שליטה מכרעת. לפי הדיווחים, אלטמן העדיף פיקוח ודחה את האפשרות השלישית — אך הדברים מבוססים על תיאור של שיחה עם עובדים, ולא על תוכנית רשמית ומפורטת. 5
10
15
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "מי יפקח על הבינה העל־אנושית? שלושת התרחישים של סם אלטמן"?
לפי דיווחים, אלטמן תיאר שלושה תרחישים: גוף פיקוח בינלאומי בסגנון הסוכנות לאנרגיה אטומית, ארגון AI משותף במודל CERN, או חברה אחת שתוכל לחסום מתחרות גישה למשאבי מחשוב.
What are the key points to validate first?
לפי דיווחים, אלטמן תיאר שלושה תרחישים: גוף פיקוח בינלאומי בסגנון הסוכנות לאנרגיה אטומית, ארגון AI משותף במודל CERN, או חברה אחת שתוכל לחסום מתחרות גישה למשאבי מחשוב. נראה שאלטמן נטה לתמוך בפיקוח בינלאומי, והתנגד לתרחיש שבו מפתחת אחת צוברת כוח כלכלי שמאפשר לה לדחוק מתחרות.
What should I do next in practice?
הגוף התקני שחברות כמו OpenAI, Google ו Anthropic מקדמות מתואר כיוזמה תעשייתית — ולא כגוף בינלאומי בעל סמכויות אכיפה.
Sources
chosun.comOpenAI CEO Sam Altman Proposes Three Measures for Safe AI Development
europesays.comSam Altman warns staff of nightmare scenario where one AI lab melts ...
minutemirror.com.pkOpenAI chief outlines three possible endgames for AI development
firstpost.comSam Altman's three AI safety scenarios range from global oversight to a worst-case outcome: Report