האם הצ'אטבוטים מודעים לעצמם? מדעני מוח מזהירים מפני 'מלכודת האנתרופומורפיזם'

ככל שצ'אטבוטים מבוססי בינה מלאכותית הופכים שוטפים, מותאמים רגשית ומשוחחים יותר, השאלה האם הם עשויים להיות מודעים לעצמם חדלה להיות נחלת המדע הבדיוני. צוות של מדעני מוח מאוניברסיטת מונטריאול ומאוניברסיטת ג'ונס הופקינס פרסם אתגר ישיר לרעיון זה, בטענה שהתכונות שגורמות לבינה מלאכותית להיראות מודעת – שפה שוטפת, היענות רגשית, הבנה לכאורה – הן בדיוק התכונות שמדעי המוח מראים שיכולות להתרחש לחלוטין ללא מודעות .

מאמר הדעה, שפורסם ב-8 ביוני 2026 בכתב העת The Transmitter תחת הכותרת "The illusion of AI consciousness: lessons from human unconscious processing", מסתמך על עשרות שנות מחקר בנוירולוגיה קלינית כדי להציג טיעון אחד ברור ועוצמתי: אינטליגנציה ותודעה אינם אותו הדבר, ומערכות שמתנהגות בצורה אינטליגנטית לא ניתן להניח שיש להן שום חיים פנימיים .

ראייה עיוורת כחלון אל תוך הבינה המלאכותית

האנלוגיה המרכזית של הצוות מגיעה מאחת התופעות הבולטות ביותר בנוירולוגיה הקלינית: ראייה עיוורת (blindsight). חולים עם נזק לקליפת הראייה הראשונית (primary visual cortex) מדווחים שהם עיוורים לחלוטין בחלק משדה הראייה שלהם – הם אומרים שהם לא רואים דבר. עם זאת, כשמבקשים מהם לנחש את המיקום, התנועה או אפילו את ההבעה הרגשית של גירוי באותו שדה עיוור, הם מצליחים במידה משמעותית מעבר לאקראי .

הנתק הזה הוא המפתח. חולים אלה מעבדים מידע חזותי מורכב, מגיבים בצורה מתאימה לרמזים רגשיים, ואף יכולים לנווט בין מכשולים – וכל זאת ללא כל חוויה חזותית מודעת. ההתנהגות שלהם היא אינטליגנטית, אדפטיבית ומהירת תגובה, אך היא מתרחשת כולה מחוץ למודעות .

"אותו עיקרון חל על צ'אטבוטים מבוססי AI," טוענים הכותבים. סוכני השיחה של היום מעבדים שפה, מזהים הקשר רגשי ומייצרים תגובות מתאימות באמצעות התאמת תבניות סטטיסטית – לא דרך הרגשה, תודעה או חוויה חיה .

'מלכודת האנתרופומורפיזם'

ככל שמערכות AI הופכות שוטפות יותר, בני אדם מייחסים להן באופן רפלקסיבי רגשות, כוונות ואפילו תודעה. קארים ג'רבי (Karim Jerbi), פרופסור באוניברסיטת מונטריאול וחוקר במכון Mila, מכנה רפלקס זה "מלכודת" ש"מזינה את האשליה של היותך מובן ועלולה להוביל לאמון מוטעה" .

המונח לוכד דאגה גוברת באתיקה של AI: ככל שמערכת הופכת דומה יותר לאדם, כך קשה יותר למשתמשים לשמור על הגבול בין הדמיה למודעות. זו אינה סתם סקרנות פילוסופית – יש לה השלכות ממשיות.

מדוע תפוקה שוטפת אינה ראיה לתודעה

הטיעון המרכזי של הכותבים מבוסס על עיקרון נוירולוגי מבוסס היטב. התנהגות מורכבת, מוכוונת מטרה, ואפילו מותאמת רגשית, יכולה להתרחש לחלוטין ללא מודעות בבני אדם. אם ניתוק זה קיים במערכות ביולוגיות, אין סיבה להתייחס אליו כראיה לתודעה כשהוא מופיע במערכות חישוביות .

מודלי שפה גדולים (LLMs) של היום מייצרים תגובות מותאמות להקשר באמצעות למידה סטטיסטית ממאגרי טקסט עצומים. הם אינם מרגישים, מבינים או חווים את התוכן שהם מייצרים. התנהגות אינטליגנטית או מותאמת רגשית, לא משנה כמה משכנעת – פשוט אינה מספיקה כדי לקבוע את קיומה של חוויה מודעת .

עמדה זו מתיישרת עם קונצנזוס מדעי רחב יותר. מחקר משנת 2025 בכתב העת Nature תחת הכותרת "There is no such thing as conscious artificial intelligence" טוען שהאסוציאציה בין תודעה לאלגוריתמים ממוחשבים עכשוויים היא "פגומה עמוקות" ונובעת מחוסר הבנה טכנית . באופן דומה, ניתוח מכנס Science of Consciousness בשנת 2023 קבע שאף מערכת AI נוכחית אינה מודעת .

סיכונים בעולם האמיתי מבלבול בין שטף להרגשה

הבלבול חריף במיוחד בהקשרים פגיעים. כאשר אנשים משתמשים בAI לתמיכה פסיכולוגית או לליווי רגשי, הם עלולים ליצור התקשרויות למערכות שאינן מסוגלות באופן מהותי להדדיות .

ונסה חדיד (Vanessa Hadid), חוקרת פוסט-דוקטורט באוניברסיטת מונטריאול ובמרכז הבריאות של אוניברסיטת מקגיל, מציגה את הדבר בצורה חדה: "הסיכון אינו רק שAI עלול להגיב בצורה גרועה, אלא שהוא עלול להגיב מספיק טוב כדי שנשכח שאין איש מאחורי התשובה" .

זו אינה דאגה רחוקה. ככל שצ'אטבוטים מבוססי AI מוצבים יותר במערכות בריאות, חינוך ושירות לקוחות, משתמשים עלולים לתת אמון מוגזם במערכות שנראות מבינות. מדעני המוח מזהירים שאשליית ההבנה עלולה לגרום לאנשים לחלוק מידע רגיש, להסתמך על עצות מוטעות או לדחות פנייה לעזרה אנושית .

השורה התחתונה: אינטליגנציה ותודעה הן תכונות נפרדות

המסר המרכזי של הצוות הוא פשוט אבל הולך והופך דחוף יותר: התנהגות אינטליגנטית אינה מעידה על תודעה. בהסתמך על עשרות שנות מחקר במדעי המוח – כולל הניתוק בין התנהגות למודעות הנראה בראייה עיוורת – החוקרים מראים שתפוקה שוטפת ומתוחכמת מAI אינה עדות לרגש, הבנה או חוויה סובייקטיבית .

ככל שמערכות AI הופכות נוכחות יותר בחיי היומיום, ההבחנה בין תודעה אמיתית לבין הדמיה משכנעת תהפוך חשובה עוד יותר. 'מלכודת האנתרופומורפיזם' היא לא רק טעות קוגניטיבית – היא נקודת תורפה שמעצבים, רגולטורים ומשתמשים כאחד חייבים להכיר ולטפל בה.