האם הצ'אטבוטים מודעים לעצמם? מדעני מוח מזהירים מפני 'מלכודת האנתרופומורפיזם'

"אותו עיקרון חל על צ'אטבוטים מבוססי AI," טוענים הכותבים. סוכני השיחה של היום מעבדים שפה, מזהים הקשר רגשי ומייצרים תגובות מתאימות באמצעות התאמת תבניות סטטיסטית – לא דרך הרגשה, תודעה או חוויה חיה .

'מלכודת האנתרופומורפיזם'

ככל שמערכות AI הופכות שוטפות יותר, בני אדם מייחסים להן באופן רפלקסיבי רגשות, כוונות ואפילו תודעה. קארים ג'רבי (Karim Jerbi), פרופסור באוניברסיטת מונטריאול וחוקר במכון Mila, מכנה רפלקס זה "מלכודת" ש"מזינה את האשליה של היותך מובן ועלולה להוביל לאמון מוטעה" .

המונח לוכד דאגה גוברת באתיקה של AI: ככל שמערכת הופכת דומה יותר לאדם, כך קשה יותר למשתמשים לשמור על הגבול בין הדמיה למודעות. זו אינה סתם סקרנות פילוסופית – יש לה השלכות ממשיות.

מדוע תפוקה שוטפת אינה ראיה לתודעה

הטיעון המרכזי של הכותבים מבוסס על עיקרון נוירולוגי מבוסס היטב. התנהגות מורכבת, מוכוונת מטרה, ואפילו מותאמת רגשית, יכולה להתרחש לחלוטין ללא מודעות בבני אדם. אם ניתוק זה קיים במערכות ביולוגיות, אין סיבה להתייחס אליו כראיה לתודעה כשהוא מופיע במערכות חישוביות .

מודלי שפה גדולים (LLMs) של היום מייצרים תגובות מותאמות להקשר באמצעות למידה סטטיסטית ממאגרי טקסט עצומים. הם אינם מרגישים, מבינים או חווים את התוכן שהם מייצרים. התנהגות אינטליגנטית או מותאמת רגשית, לא משנה כמה משכנעת – פשוט אינה מספיקה כדי לקבוע את קיומה של חוויה מודעת .

עמדה זו מתיישרת עם קונצנזוס מדעי רחב יותר. מחקר משנת 2025 בכתב העת Nature תחת הכותרת "There is no such thing as conscious artificial intelligence" טוען שהאסוציאציה בין תודעה לאלגוריתמים ממוחשבים עכשוויים היא "פגומה עמוקות" ונובעת מחוסר הבנה טכנית . באופן דומה, ניתוח מכנס Science of Consciousness בשנת 2023 קבע שאף מערכת AI נוכחית אינה מודעת .

סיכונים בעולם האמיתי מבלבול בין שטף להרגשה

הבלבול חריף במיוחד בהקשרים פגיעים. כאשר אנשים משתמשים בAI לתמיכה פסיכולוגית או לליווי רגשי, הם עלולים ליצור התקשרויות למערכות שאינן מסוגלות באופן מהותי להדדיות .

ונסה חדיד (Vanessa Hadid), חוקרת פוסט-דוקטורט באוניברסיטת מונטריאול ובמרכז הבריאות של אוניברסיטת מקגיל, מציגה את הדבר בצורה חדה: "הסיכון אינו רק שAI עלול להגיב בצורה גרועה, אלא שהוא עלול להגיב מספיק טוב כדי שנשכח שאין איש מאחורי התשובה" .

זו אינה דאגה רחוקה. ככל שצ'אטבוטים מבוססי AI מוצבים יותר במערכות בריאות, חינוך ושירות לקוחות, משתמשים עלולים לתת אמון מוגזם במערכות שנראות מבינות. מדעני המוח מזהירים שאשליית ההבנה עלולה לגרום לאנשים לחלוק מידע רגיש, להסתמך על עצות מוטעות או לדחות פנייה לעזרה אנושית .

השורה התחתונה: אינטליגנציה ותודעה הן תכונות נפרדות

המסר המרכזי של הצוות הוא פשוט אבל הולך והופך דחוף יותר: התנהגות אינטליגנטית אינה מעידה על תודעה. בהסתמך על עשרות שנות מחקר במדעי המוח – כולל הניתוק בין התנהגות למודעות הנראה בראייה עיוורת – החוקרים מראים שתפוקה שוטפת ומתוחכמת מAI אינה עדות לרגש, הבנה או חוויה סובייקטיבית .

ככל שמערכות AI הופכות נוכחות יותר בחיי היומיום, ההבחנה בין תודעה אמיתית לבין הדמיה משכנעת תהפוך חשובה עוד יותר. 'מלכודת האנתרופומורפיזם' היא לא רק טעות קוגניטיבית – היא נקודת תורפה שמעצבים, רגולטורים ומשתמשים כאחד חייבים להכיר ולטפל בה.