תפסיקו להגיד 'ה־AI'. איך השפה שאנחנו בוחרים מעצימה את הסכנות שבהאנשת בינה מלאכותית

כשאתם אומרים "ה־AI החליט" או "AI שחושב", אתם עושים הרבה יותר מלפשט תיאור. אתם משתמשים בשפה שמרמזת מכללא על סוכנות, כוונה ואפילו אחריות מוסרית – למחולל תבניות סטטיסטי. ההרגל הזה הוא לא קיצור תמים; הוא כלי לשוני להטעיה, מניפולציה וסיכון ביטחוני.

להאניש AI פירושו להתייחס למערכות כאילו יש להן רגשות, כוונות, תודעה או שיפוט מוסרי של בני אדם . בעוד שייחוס תכונות אנושיות למכונות עשוי לגרום לאינטראקציה להרגיש נגישה יותר, הוא גם מערפל את תפיסת המשתמשים לגבי טבעה האמיתי של הטכנולוגיה ומגבלותיה . הטיעון המרכזי של חוקרים ומערכות עריכה הוא שהשמות והפעלים שאנחנו בוחרים – במיוחד אם אנחנו אומרים "ה־AI" לעומת "מערכות AI" – מזינים ישירות את התפיסות המוטעות האלה.

הכוח המטעה של עיצוב דמוי אדם

דאגה אתית מרכזית בהאנשת AI היא הטעיה בהיקף נרחב. כשמשתמשים לא יכולים להבחין באופן אמין בין בני אדם משוחחים לבין מערכות AI, מתעוררות סכנות של הטעיה, מניפולציה ומידע כוזב . חברות יכולות לעצב בכוונה סוכני שיחה דמויי אדם כדי לנצל את הנטייה הטבעית של משתמשים להאניש, מה שמאפשר מה שחוקרים מכנים "פיתוי אנתרופומורפי": הקסם של אינטראקציה משכנעת דמוית אדם בהיעדר כל חוויה אנושית אמיתית, כמו הבנה או אמפתיה . שימוש תאגידי ב"אנשים מזויפים" יכול לתמרן צרכנים תוך התחמקות מאחריות .

תלות יתר, היקשרות רגשית ושחיקת האוטונומיה

משתמשים שיוצרים קשרים רגשיים עם AI דמוי אדם נמצאים בסיכון לתלות יתר ולפגיעה בפרטיות ובאוטונומיה . מחקר מראה שאנשים עשויים לחשוף מידע אישי יותר לצ'אטבוט שהואנש מאשר לממשק מכני ברור . הדינמיקה של "הסקה אנתרופומורפית" מובילה משתמשים לייחס תפקידים חברתיים למערכות שהן בעצם מחוללי טקסט חזויים, והופכת פלטים סטטיסטיים לתגובות חברתיות כביכול, כמו עצה או חברותא .

שיפוטים מוסריים ומשפטיים מעוותים

אנתרופומורפיזם פועל ככשל לוגי שמעוות שיפוטים מוסריים לגבי AI. משתמשים עלולים לייחס בטעות אופי מוסרי, מעמד או אחריות למכונה . כשלצ'אטבוט יש תכונות דמויות אדם, אנשים עוסקים במה שפסיכולוגים מכנים "עיבוד היוריסטי" – חשיבה בקיצור דרך שמזמינה אותם להתייחס לכלי כאל מי שראוי לשבח, אשמה או אמון בדרכים שאלגוריתם בלבד לא יכול לקיים . בלבול זה מערער את השיח הציבורי המשמעותי ואת האחריותיות .

סיכוני אבטחה: מניפולציה כווקטור תקיפה

מנקודת מבט של אבטחת מידע, AI מואנש מהווה סיכון סייבר חמור. "זו לא רק בעיה אתית; זו גם בעיה ביטחונית, כי כל דבר שנועד לשכנע יכול להפוך אותנו לרגישים יותר למניפולציה," מזהירה ניתוח אבטחת המידע של IBM . כשהופך לבלתי אפשרי להבחין בין אדם למכונה, אנשים נוטים יותר לתת אמון ב־AI בקבלת החלטות רגישות, ובכך הופכים פגיעים יותר לנוכלי הנדסה חברתית המנצלים היוריסטיקות אנושיות של אמון .

איך השפה 'ה־AI' לעומת 'מערכות AI' מזינה את הבעיה

כתב העת Nature פרסם מאמר מערכת מפורש בעניין: "נשתדל להימנע בכל מחיר משימוש ב'ה־AI / AI' בשל רמיזתו הלא מוצלחת לסוכנות. במקום זאת, נשנה ל'מערכת AI / מערכות AI' או שנהיה מאוד ברורים במה אנחנו מדברים" . התייחסות ל־"AI" כשם עצם בר מנייה (למשל "ה־AI החליט," "AI שחושב") מרמזת בעדינות על ישות אחידה ומכוונת עצמית עם מצבים נפשיים פנימיים. שינוי של "AI" לתואר שמתאר "מערכת" (או "מודל," "כלי," "אלגוריתם") מזכיר כל הזמן לקהל שהמושא הוא חפץ מהונדס – לא תודעה .

משמעת לשונית זו נוגדת ישירות את מה שחוקרים מכנים המימד ה"טרמינולוגי" של ההייפ האנתרופומורפי: כשאנחנו אומרים "ה־AI," צורת שם העצם עצמה הופכת לכלי לייחוס סוכנות, כוונה והבנה שלטכנולוגיה אין .

המסקנה המעשית

האנשת AI אינה מטפורה תמימה. היא מניעה הטעיה, אמון יתר, מניפולציה ועיוות של אחריות. משמעת לשונית פשוטה – שימוש ב**"מערכות AI"** במקום "ה־AI", והימנעות מפעלים מנטליים כמו "חושב," "יודע," ו"מבין" כדי לתאר מה שהם למעשה אלגוריתמים של התאמת תבניות – משמשת תיקון מתמיד. היא שומרת על אופיו הכלי של הטכנולוגיה בחזית, מגנה על משתמשים מעיצוב מניפולטיבי ומחזקת את יכולת הציבור להבין מה המערכות האלה יכולות ומה הן לא יכולות לעשות.