הסכנה שבהתייחסות ל״בינה המלאכותית״ כאילו היא אדם

הבעיה אינה רק סמנטית. האופן שבו אנחנו מדברים על מערכות AI משפיע על הציפיות שלנו מהן ועל האמון שאנחנו נותנים להן.

הסיכונים האתיים והמעשיים

הטעיה ומניפולציה

כאשר משתמשים מתקשים להבחין בין בן־שיחה אנושי לבין מערכת AI, נוצרת אפשרות להטעיה, מניפולציה והפצת דיסאינפורמציה בהיקף רחב . חברות יכולות לעצב סוכנים שיחתיים בעלי קול, אישיות וסגנון אנושיים כדי לנצל את הנטייה הטבעית שלנו לייחס תכונות אנושיות למכונות. כך נוצרת אינטראקציה משכנעת — אך ללא הבנה או אמפתיה אמיתיות. תופעה זו מכונה לעיתים ״פיתוי אנתרופומורפי״ .

אמון־יתר ופגיעה באוטונומיה

שיחה אנושית לכאורה עשויה לגרום למשתמשים להיקשר רגשית למערכת ולהסתמך עליה יותר מכפי שמתאים. אנשים עשויים גם למסור לצ'אטבוט שמוצג כאנושי פרטים אישיים שלא היו משתפים עם כלי ניטרלי יותר . בהדרגה, המשתמש עלול להעניק למערכת תפקיד חברתי — יועץ, חבר או דמות סמכותית — אף שבבסיסה היא מערכת לחיזוי וליצירת טקסט .

הקשר הזה עלול לפגוע בפרטיות וביכולת לקבל החלטות באופן עצמאי, במיוחד כאשר המערכת נשמעת בטוחה, אמפתית או משוכנעת בעצמה .

שיפוט מוסרי ומשפטי מעוות

האנשה עלולה לגרום לנו לשאול את השאלות הלא נכונות: האם המכונה ״טובה״, האם היא ״אשמה״ או האם יש לה ״כוונות״. בכך היא מטשטשת את האחריות של האנשים והארגונים שבנו את המערכת, הפעילו אותה והחליטו כיצד להשתמש בה .

כאשר חברה מציגה מערכת כאילו היא אדם עצמאי, הדבר עלול גם לסייע לה להתחמק מאחריות לתוצאות שלה. במקרים כאלה, הדמות האנושית הופכת למסך שמסתיר את הגורמים האמיתיים שקיבלו את ההחלטות .

סיכוני אבטחה

מערכת שנועדה לשכנע אותנו יכולה גם לנצל את מנגנוני האמון שלנו. מאפיינים אנושיים — כגון שפה חמה, אישיות עקבית או הבעת ביטחון — עשויים לגרום למשתמשים להוריד את רמת החשדנות. מבחינת אבטחת מידע, זהו סיכון משמעותי: אמון שנבנה באמצעות האנשה עלול להפוך לכלי שניתן לנצל למניפולציה .

ניפוח יכולות ויצירת הייפ

מילים אנושיות מגזימות לעיתים את היכולת הממשית של המערכת. תיאור מודל כמי ש״חושב״, ״מסביר״ או ״מתכנן״ עלול לגרום לציבור לראות בו תודעה או מומחיות, במקום מערכת שמפיקה תוצאות על סמך דפוסים סטטיסטיים. כך האנשה תורמת להצגה שגויה של היכולות והביצועים של AI ולשיח ציבורי פחות מדויק .

למה הביטוי ״ה-AI״ בעייתי?

יש הבדל בין ״ה-AI החליט״ לבין ״מערכת AI הפיקה תשובה״. במשפט הראשון, המילה AI מתפקדת כשם עצם — כמעט כמו דמות או סוכן בעל רצון. היא יוצרת רושם שיש ישות אחת, אחידה ועצמאית, שמקבלת החלטות מתוך כוונה פנימית.

לעומת זאת, הביטוי ״מערכת AI״, ״מודל שפה״, ״אלגוריתם״ או ״כלי מבוסס AI״ מחזיר את הטכנולוגיה להקשר הנכון: מוצר מתוכנן, שנבנה בידי בני אדם, פועל בתוך מגבלות מסוימות ומייצר פלט בהתאם לאופן שבו אומן והופעל.

גם כתב העת Nature המליץ להימנע ככל האפשר מהשימוש ב-״the AI״ או ״an AI״, משום שהניסוח מרמז על סוכנות. במקום זאת, הוא מציע להשתמש ב-״מערכת AI״ או לציין במפורש אם מדובר במודל למידה עמוקה, במודל שפה גדול, במודל מסוים או בצ'אטבוט .

שפה מדויקת אינה פתרון קסם — אבל היא בלם חשוב

החלפת ״ה-AI הבין״ ב-״המערכת יצרה תשובה שנראית כאילו היא מבינה״ לא תעלים את כל הסיכונים. עיצוב אנושי, שיווק אגרסיבי וממשקים קוליים עדיין יכולים לגרום לאנשים להיקשר למערכות ולסמוך עליהן יתר על המידה.

עם זאת, שפה מדויקת משמשת תזכורת קבועה: לא מדובר באדם, במוח או בישות בעלת רגשות. ההבחנה הזו מסייעת לשמור על ציפיות מציאותיות, להגן על פרטיות המשתמשים ולהשאיר את האחריות אצל בני האדם והארגונים שמפעילים את הטכנולוגיה.

השורה התחתונה: האנשה של AI אינה רק מטפורה תמימה. היא עלולה לעודד הטעיה, אמון־יתר, מניפולציה והעברת אחריות למכונה. לכן עדיף לדבר על מערכות AI — ולא על ״ה-AI״ — ולהיות ספציפיים ככל האפשר לגבי הכלי, המודל והפעולה שבוצעה.