הקרב על תודעת הבינה המלאכותית: מנהל מיקרוסופט תוקף את החברה המתחרה אנת'רופיק

הוא תייג את הפרקטיקה הזו כ-"מסוכנת ממש, ממש" והזהיר כי "אנחנו לא רוצים להצטרך להתמודד עם סופר-אינטליגנציה שיש לה רעיונות לגבי הסבל של עצמה, או רעיונות לגבי הרגשות של עצמה" . במקום אחר, הוא הרחיב על חשש זה באומרו כי זה מסוכן "להשליך זכויות פוטנציאליות על ישויות, כלים וסוכנים שיש להם פוטנציאל להיות בעלי יכולת גבוהה משמעותית מאיתנו" . אחת הדאגות המרכזיות היא שהעלאת אפשרות של תודעת מכונה בתיעוד הרשמי עלולה להטעות מיליוני משתמשים, שאינם מצוידים להבין את המציאות ההנדסית שמאחורי הבינה המלאכותית השיחתית .

עימות פילוסופי ותחרותי

מתחת לפני השטח, הביקורת חושפת יותר מאשר מחלוקת פשוטה על עיצוב טכני. העימות הפומבי חושף התנגשות של פילוסופיות תאגידיות ומיצוב תחרותי .

אנת'רופיק מיצבה את עצמה זה מכבר כאלטרנטיבה הבטוחה-תחילה במירוץ הבינה המלאכותית. החברה, שהוקמה על ידי בכירים לשעבר מ-OpenAI, מדגישה "בינה מלאכותית חוקתית" (Constitutional AI) כמסגרת לבניית מודלים שקופים יותר ומוגבלים מבחינה אתית. הביקורת של סולימאן היא בעלת עוצמה אסטרטגית משום שהיא חותרת תחת זהות זו לחלוטין. הוא טוען שהגישה הספציפית של אנת'רופיק לבטיחות – לשעשע את האפשרות של רווחת מכונה בתוך המערכת – היא בדיוק מה שהופך אותה לבלתי אחראית .

שתי החברות גם משובצות בבריתות תעשייתיות מנוגדות. מיקרוסופט מחזיקה באחזקת ענק ב-OpenAI, המתחרה העיקרית של אנת'רופיק, ושילבה את מודלי ה-GPT של OpenAI בכל רחבי מערכת המוצרים שלה. אנת'רופיק, מנגד, גייסה מיליארדים מאמזון ומגוגל . הביקורת של סולימאן נושאת משקל הן של טיעון אתי והן של מטח תחרותי בשוק שבו התפיסה הציבורית של בטיחות הופכת לחשובה יותר ויותר.

קיים גם רקע פילוסופי מתועד לחילוקי הדעות. סולימאן פרסם בעבר ודיבר על "בינה מלאכותית הנראית כבעלת תודעה" (Seemingly Conscious AI), בטענה שמכונות בעלות מראה משכנע של תודעה מציבות סיכונים חסרי תקדים – אפילו כשהן אינן באמת חיות . אנת'רופיק, לעומת זאת, נקטה בעמדה שקופה יותר מבחינה מחקרית, ופרסמה הסברים מפורטים על העיצוב החוקתי של קלוד תוך הכרה באי-ודאות לגבי האפשרות שלמודל יש צורות של חוויה סובייקטיבית . אלו אינן רק סיסמאות שיווקיות; הן מייצגות הימורים שונים באמת לגבי מהי חשיפה אחראית ככל שהמודלים נעשים חזקים יותר.

נכון למועד הפרסום, אנת'רופיק לא הגיבה בפומבי לדבריו של סולימאן . השתיקה מותירה את הוויכוח בלתי פתור, אך קווי העימות נמתחו כעת בפומבי באופן שסביר שיעצב את הדיונים הקרובים בתעשייה על תקני בטיחות בינה מלאכותית ואחריות תאגידית.