AnswersPublished19 sources
איך אפשר למשול בבינה־על? שלוש האפשרויות שסאם אלטמן הציג לעובדי OpenAI
לפי הדיווחים, אלטמן הציג לעובדי OpenAI שלוש אפשרויות לניהול בינה־על: פיקוח בינלאומי, שיתוף פעולה בין מעבדות מובילות, או מצב שבו מפתחת אחת חוסמת את הגישה של מתחרותיה למשאבי מחשוב.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- לפי הדיווחים, אלטמן הציג לעובדי OpenAI שלוש אפשרויות לניהול בינה־על: פיקוח בינלאומי, שיתוף פעולה בין מעבדות מובילות, או מצב שבו מפתחת אחת חוסמת את הגישה של מתחרותיה למשאבי מחשוב.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
לפי דיווחים, סאם אלטמן הציג לעובדי OpenAI שלוש דרכים אפשריות להסדיר את פיתוחה של בינה־על: פיקוח בינלאומי, ארגון משותף למעבדות AI מובילות, או מצב שבו מפתחת אחת צוברת כוח שמאפשר לה לחסום את מתחרותיה. על פי הדיווחים, אלטמן נטה לאפשרות של פיקוח בינלאומי ותיאר את התרחיש השלישי כאיום. אלה הוצגו כתרחישים אפשריים — לא כמדיניות ש-OpenAI אימצה. 1
4
6
שלושה תרחישים, שלוש דרכים לפזר כוח
1. גוף פיקוח בינלאומי
האפשרות הראשונה היא להקים גוף בינלאומי בדומה לסוכנות הבינלאומית לאנרגיה אטומית (IAEA), שתפקידו יהיה לקבוע או לאכוף תקני בטיחות בתחום הבינה המלאכותית. לפי הדיווחים, המודל עשוי לכלול פיקוח על מערכות AI מתקדמות, לרבות בדיקות או ביקורות. 1
4
6
עם זאת, הדיווחים הזמינים אינם מציגים תוכנית מלאה לסמכויותיו של גוף כזה. בפרט, אין בהם ביסוס לכל פרט שמקושר לעיתים להצעה — למשל ניטור של משאבי מחשוב וצריכת אנרגיה — או אישור לכך שהדיון הפנימי היה המשך ישיר להצעה מסוימת ממאי 2023.
2. ״תוכנית דמיס״
האפשרות השנייה, שכונתה ״תוכנית דמיס״, היא לרכז מעבדות AI מובילות בארגון בסגנון CERN, או להפעיל אותן תחת גוף משותף. השם מתייחס לדמיס הסביס, העומד בראש Google DeepMind; העיתונאי אמיר אפרתי קשר את הרעיון להצעה מסביבות 2017. 5
23
לפי אחד הדיווחים, הארגון המשותף עשוי לספק מודלים למדינות שישתפו איתו פעולה. 5 בבסיס הרעיון עומדת התנהלות מתואמת תחת בעלות או ממשל משותפים, במקום תחרות בין מעבדות נפרדות.
3. ״תוכנית אליעזר״
התרחיש השלישי נקרא על שם חוקר בטיחות ה-AI אליעזר יודקובסקי. בתיאור שיוחס לדיון של אלטמן, מפתחת אחת משיגה יתרון מכריע באמצעות AI שמשפר את עצמו, ואז משתמשת בכוחה כדי להגביל את הגישה של מתחרות למשאבי מחשוב. התרחיש תואר בביטוי הציורי ״להמיס לכולם את ה-GPU״. לפי הדיווחים, אלטמן דחה את האפשרות הזאת. 3
5
6
מה ההבדל בין התרחיש של יודקובסקי לזה שיוחס לאלטמן?
השם עלול לטשטש את ההבדל בין שתי אפשרויות שונות. לפי דיווחים על כתיבתו של יודקובסקי מ-2022, הוא דן ב״פעולה מכרעת״ של בינה כללית מלאכותית בטוחה, שנועדה למנוע מאחרים לבנות בינה כללית מלאכותית לא בטוחה. 7
10 זה אינו אותו תרחיש כמו חברה שמשתמשת ביתרון שלה כדי להשיג שליטה על מתחרותיה.
דיווח נפרד מוסר שיודקובסקי הבהיר בהמשך שדוגמת ״לשרוף את כל ה-GPU״ לא הייתה הצעה מעשית. 34 המקורות הזמינים אינם כוללים מספיק מהתגובה המלאה שלו כדי לשחזר את כל ההסתייגויות. ההבחנה המרכזית היא בין תרחיש היפותטי שנועד למנוע פיתוח של בינה כללית לא בטוחה, לבין תרחיש שבו מפתחת אחת מונעת מאחרות גישה למשאבי מחשוב.
גם הטענה שעובדי OpenAI פירשו את הכינוי ״תוכנית אליעזר״ כעקיצה כלפי Anthropic אינה מבוססת בדיווחים הזמינים. עצם השימוש בשמו של יודקובסקי אינו מעיד ש-Anthropic תומכת בתרחיש, או שהכינוי כוון כלפי החברה.
השאלה המרכזית: היכן ירוכז הכוח?
שלושת התרחישים נבדלים בשאלה מי יחזיק בכוח: גוף פיקוח בינלאומי, ארגון משותף למעבדות המובילות, או מפתחת אחת דומיננטית. לפי הדיווחים, אלטמן העדיף את האפשרות הראשונה ודחה את השלישית. לכן, הניגוד בין פיקוח מתואם לבין ריכוז שליטה בידיה של חברה אחת הוא המסר הבולט ביותר מהדיון. 1
4
6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "איך אפשר למשול בבינה־על? שלוש האפשרויות שסאם אלטמן הציג לעובדי OpenAI"?
לפי הדיווחים, אלטמן הציג לעובדי OpenAI שלוש אפשרויות לניהול בינה־על: פיקוח בינלאומי, שיתוף פעולה בין מעבדות מובילות, או מצב שבו מפתחת אחת חוסמת את הגישה של מתחרותיה למשאבי מחשוב.
Sources
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI