AnswersPublished18 sources
למה סם אלטמן חושש מהענקת סמכות דתית לבינה מלאכותית
אלטמן אמר שהוא חש אי־נוחות עמוקה כשמייחסים למודלים של בינה מלאכותית ״כוח דתי״ או מוותרים על שיקול הדעת האנושי לטובתם, וכינה זאת ״סוגיית בטיחות של ממש״. הוא לא נקב בשם Anthropic, אך עיתוי הדברים—ימים לאחר דיווחים על מפגשי החברה עם אנשי דת—הוביל לפרשנות שהם מכוונים אליה.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- אלטמן אמר שהוא חש אי־נוחות עמוקה כשמייחסים למודלים של בינה מלאכותית ״כוח דתי״ או מוותרים על שיקול הדעת האנושי לטובתם, וכינה זאת ״סוגיית בטיחות של ממש״.
- הוא לא נקב בשם Anthropic, אך עיתוי הדברים—ימים לאחר דיווחים על מפגשי החברה עם אנשי דת—הוביל לפרשנות שהם מכוונים אליה.
- כריסטופר אולה, ממייסדי Anthropic, אמר שאינו יודע אם מודלים של בינה מלאכותית מודעים; עצם הדיון בתודעה או בעיצוב התנהגות מוסרית אינו מוכיח שלמודל יש תודעה או מעמד דתי.
- הוויכוח מתנהל לצד קריאות לשמור על כבוד האדם ועל פיקוח על חברות AI, ובזמן ש OpenAI מתמודדת עם דיווחים על עזיבת בכיר בטיחות ופיטורי שלושה חוקרים.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman say about treating AI models as religious authorities or surrendering human judgment to them, why was his warning interp. Article summary: Sam Altman said he was “very uncomfortable” with people ascribing “religious force” to AI models or surrendering human judgment to them, calling it “a real safety issue.” His post did not name Anthropic, but its timing m. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
סם אלטמן אמר שהוא ״חש אי־נוחות עמוקה״ כשאנשים מייחסים למודלים של בינה מלאכותית ״כוח דתי״ או מוותרים על שיקול דעתם לטובתם. לדבריו, מדובר ב״סוגיית בטיחות של ממש״. אלטמן לא הזכיר את Anthropic בפוסט, אבל הוא פורסם ימים אחרי דיווחים על מפגשים שערכה החברה עם אנשי דת וחוקרים, ולכן רבים פירשו אותו כביקורת מרומזת עליה. 7
1
כדאי להבחין בין כמה שאלות שונות: איך מודל צריך להתנהג, האם ייתכן שיש לו תודעה, והאם ראוי להתייחס אליו כסמכות רוחנית. הדיווחים מספרים ש-Anthropic בחנה את שתי השאלות הראשונות; כריסטופר אולה, ממייסדי החברה, הדגיש שאינו יודע אם מודלים של בינה מלאכותית מודעים. 1
על מה בדיוק הזהיר אלטמן?
בפוסט שלו חיבר אלטמן בין שני חששות: ייחוס כוח דתי למודלים של AI והעברת שיקול הדעת האנושי לידיהם. הוא כינה את השילוב הזה סוגיית בטיחות. מאחר שלא ציין חברה או פרויקט, הקישור ל-Anthropic הוא פרשנות שנשענת על עיתוי הפוסט והדיווחים שקדמו לו — לא האשמה מפורשת מצדו. 7
החשש רחב יותר משאלת הדת. תשובות של מודל עשויות להישמע בטוחות ואנושיות, אך הטון המשכנע כשלעצמו אינו ערובה להבנה או לסמכות. הדיווחים מתעדים את אזהרתו של אלטמן, אך אינם קובעים עד כמה אנשים אכן מוותרים על שיקול דעתם או מה היקף ההשפעה של התופעה. 6
7
למה Anthropic ואנשי הדת נכנסו לתמונה?
לפי הדיווחים, Anthropic התייעצה עם אנשי דת וחוקרים בשאלות של עיצוב ההתנהגות המוסרית של Claude ושל האפשרות שמודלים יהיו מודעים. החפיפה בין הנושאים האלה לבין דבריו של אלטמן היא שהובילה לקריאת הפוסט כתגובה לעבודת החברה. 1
7
אבל דיון בתודעה אפשרית אינו הוכחה לכך שלמודל יש חוויה פנימית. אולה אמר: ״למען הסר ספק, אנחנו לא יודעים אם מודלים של בינה מלאכותית מודעים. אני לא יודע. אני באמת לא בטוח.״ בדומה לכך, התייעצות עם אנשי דת על התנהגות מוסרית אינה הופכת כשלעצמה מודל לסמכות דתית. 1
תודעה והתנהגות מוסרית: לא אותה שאלה
אפשר לתכנן מודל כך שיפעל לפי הנחיות וערכים מסוימים, בלי שהדבר מוכיח שיש לו עולם פנימי. הדיווחים על Anthropic נגעו הן לאופן שבו Claude אמור להתנהג והן לשאלת התודעה האפשרית שלו; אין סיבה למזג את שני הנושאים לטענה אחת. 1
הדיווחים מציינים גם הסתייגות של בכיר בתחום הבינה המלאכותית במיקרוסופט, שהזהיר מפני אימון מודלים כאילו הם מודעים. זו עמדה שמבטאת חשש, לא הכרעה בשאלה אם מכונות יכולות להיות מודעות. גם אולה עצמו תואר כמי שאינו בטוח. 9
1
כבוד האדם ופיקוח על חברות AI
האנציקליקה של האפיפיור לאו ה־14 על בינה מלאכותית הציבה את כבוד האדם במרכז. לפי הדיווחים על המסמך, הוא קרא להגביר את הפיקוח על חברות AI, להגן על עובדים שנפגעים משינויים בתחום, ולפעול נגד מידע כוזב שנוצר באמצעות בינה מלאכותית. העקרונות האלה מדגישים את חשיבותם של אחריות אנושית והגנה על בני אדם בפיתוח הטכנולוגיה ובשימוש בה. 15
2
גם OpenAI נתונה לביקורת
הדיון התקיים על רקע דיווחים נפרדים על OpenAI. ב-Business Insider דווח שמוביל בטיחות בחברה, דייוויד רובינסון, עזב ומתח ביקורת על התנהלותה בתחום הבטיחות; ה-BBC דיווח ש-OpenAI פיטרה שלושה חוקרים בשל טיפול לקוי לכאורה במידע. האירועים האלה אינם מכריעים את שאלת תודעת המכונות, אך הם חלק מההקשר שבו נבחנים הפיקוח וההתנהלות של שתי החברות. 12
26
השורה התחתונה מצומצמת יותר מהכרעה בעד Anthropic או OpenAI: אלטמן הזהיר מפני הפיכת מודלים לסמכות דתית ומפני ויתור על שיקול הדעת האנושי לטובתם. המפגשים שעליהם דווח מעלים שאלות על המוסר של Claude ועל תודעה אפשרית, אבל המידע הזמין אינו מראה שהם העניקו לו מעמד דתי — וגם אינו מוכיח ששאלת תודעת הבינה המלאכותית הוכרעה. 7
1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "למה סם אלטמן חושש מהענקת סמכות דתית לבינה מלאכותית"?
אלטמן אמר שהוא חש אי־נוחות עמוקה כשמייחסים למודלים של בינה מלאכותית ״כוח דתי״ או מוותרים על שיקול הדעת האנושי לטובתם, וכינה זאת ״סוגיית בטיחות של ממש״.
What are the key points to validate first?
אלטמן אמר שהוא חש אי־נוחות עמוקה כשמייחסים למודלים של בינה מלאכותית ״כוח דתי״ או מוותרים על שיקול הדעת האנושי לטובתם, וכינה זאת ״סוגיית בטיחות של ממש״. הוא לא נקב בשם Anthropic, אך עיתוי הדברים—ימים לאחר דיווחים על מפגשי החברה עם אנשי דת—הוביל לפרשנות שהם מכוונים אליה.
What should I do next in practice?
כריסטופר אולה, ממייסדי Anthropic, אמר שאינו יודע אם מודלים של בינה מלאכותית מודעים; עצם הדיון בתודעה או בעיצוב התנהגות מוסרית אינו מוכיח שלמודל יש תודעה או מעמד דתי.