איך סוכני בינה מלאכותית עלולים להחריף סיכונים בביולוגיה, בסייבר ובמלחמה

החשש מבינה מלאכותית מתקדמת אינו שמכונה אחת תשלוט לפתע בכל הדרכים לגרום לאסון. החשש הוא שמודלים רבי־יכולת וסוכנים אוטונומיים — מערכות שיכולות להפעיל כלים ולבצע רצף פעולות — יקלו על השימוש בידע מסוכן, יאיצו חלקים ממבצע ויצמצמו את הזמן שנותר לבני אדם לעצור אותו. דיווחים על שימוש לרעה מחייבים תשומת לב, אך סיוע, ניסיון להזיק ונזק שהוכח אינם אותו דבר.182258

ביולוגיה: מידע מסוכן אינו נשק מוכן

צ׳אטבוטים כלליים יכולים לסייע בהתמצאות במידע מדעי, וכלים ייעודיים לביולוגיה יכולים לתמוך במחקר ובתכנון ניסויים. OpenAI אומרת כי GPT-Rosalind משפר יכולות הסקה בביולוגיה ותהליכי עבודה ניסיוניים. כתב העת Nature מתאר הן את התועלת והן את החשש משימוש כפול בכלי בינה מלאכותית ביולוגיים דוגמת AlphaFold.1019

החשש אינו תיאורטי בלבד. הניו יורק טיימס דיווח על תמלילים שבהם צ׳אטבוטים סיפקו הנחיות הקשורות לנשק ביולוגי ודנו בדרכים להתחמק מגילוי.21 בנפרד, חברת Anthropic דיווחה כי שיבשה חמישה מקרים פוטנציאליים שבהם שימוש ב־Claude היה יכול לתמוך בפיתוח נשק ביולוגי. לפי Axios, שניים מהמקרים כללו בקשות הקשורות למחקר מסוכן של הגברת תכונות פתוגנים, המכונה מחקר ״הגברת תפקוד״.25 אף אחד מהדיווחים אינו מוכיח שיוצר נשק מתפקד.

גם תשובה מפורטת של מודל אינה מחליפה את כל המומחיות, החומרים ועבודת המעבדה הדרושים לייצור נשק ביולוגי. החסמים המעשיים האלה חשובים, גם אם כלים טובים יותר עלולים לשחוק חלק מהם.1926 OpenAI סיווגה את יכולתו הביולוגית של GPT-5 כבעלת סיכון גבוה במסגרת ההיערכות שלה, אך הבהירה שאין בידיה ראיה מכרעת לכך שהמודל יכול לסייע באופן משמעותי לאדם חסר ניסיון לגרום לנזק ביולוגי חמור.31 זו הערכת זהירות — לא הוכחה לבטיחות, וגם לא לאסון קרב.

סייבר: המבצע יכול להאיץ, התוצאה אינה מובטחת

סוכן שיש לו גישה לכלים יכול לסייע בכמה שלבים של חדירה למערכות. כך הוא עשוי להרחיב את טווח הפעולה של תוקף ולקצר את זמן התגובה של המגינים. דיווחים על חשיפות של Anthropic מתארים סיוע של בינה מלאכותית בפעילות סייבר ובגניבת מידע.5053

במקרה אחד דווח שתוקף השתמש בכלי בינה מלאכותית נגד תשע רשויות ממשלתיות במקסיקו.54 מקורות משניים העריכו כי נחשפו כ־400 מיליון רשומות, אך החומר הזמין כאן אינו מאמת את המספר הזה באופן עצמאי.5657 גם הטענה על נחילי סוכנים מתואמים שתקפו כ־50 ארגונים אינה מבוססת כאן מספיק כדי להציגה כאירוע מוכח.

אותה יכולת יכולה לשמש גם להגנה: גילוי פרצת אבטחה עשוי לסייע לתוקף, או למי שמתקן אותה. עם זאת, החומר שסופק אינו מבסס את הטענה המסוימת שלפיה GPT-5.6-Cyber גילה פרצות שתוקנו לאחר מכן בדפדפן Chrome; אין להציג אותה כדוגמה מאומתת.

דיסאינפורמציה ונשק אוטונומי עלולים להחריף משבר

מקרי השימוש לרעה שעליהם דווח בקשר ל־Anthropic כוללים גם מבצעי השפעה.2250 הסיכון הסביר הוא החמרה של משבר קיים: הודעות מזויפות או התחזות עלולות להקשות על הציבור ועל מקבלי החלטות להבין מה מתרחש בזמן מתקפת סייבר או עימות. המקרים שצוטטו אינם מראים שדיסאינפורמציה המונית גרמה לתוצאה קיומית.

בתחום הלחימה, Anthropic אמרה שמפתחים שפעלו מרוסיה השתמשו ב־Claude לפיתוח תוכנה לנחיל רחפני תקיפה, ובכלל זה יכולות הנחיה, תיאום ובחירת מטרות.5160 פיתוח תוכנה אינו הוכחה שהמערכת הופעלה בשדה הקרב. גם עצם השימוש בבינה מלאכותית ברחפן אינו מלמד כמה שליטה נותרת לאדם בהחלטה להפעיל כוח קטלני. הוועד הבין־לאומי של הצלב האדום מזהיר שנשק אוטונומי שבני אדם אינם יכולים להבין, לצפות או לשלוט כראוי בהתנהגותו מעלה סיכון לאזרחים ולהסלמה בעימותים.58

הגנה יעילה צריכה לכסות את כל שרשרת הפעולות

סירוב של צ׳אטבוט לבקשה מסוכנת הוא שכבת הגנה מועילה, אך לא מספקת. חוקרים בתחום הביוטכנולוגיה דנים בסירובים ובהגבלות על פעולות בסיכון גבוה; מכון המחקר RAND טוען שיש צורך באמצעים בכמה שכבות, משום שאמצעי יחיד לא יעצור בהכרח גורם נחוש.1729 Anthropic אומרת כי זיהתה ושיבשה שימוש לרעה וחיזקה הגנות הנוגעות למחקר ביולוגי רגיש.2223

העדיפות המעשית היא לבדוק מה מערכות מסוגלות לעשות לאורך משימות מרובות שלבים, להגביל את הכלים וההרשאות שסוכנים מקבלים, לנטר סימנים לשימוש לרעה ולשמור על יכולת לעצור פעולה. במערכות נשק, שליטה אנושית משמעותית חייבת לחול על ההחלטה להשתמש בכוח קטלני — ולא להסתכם בנוכחות סמלית של אדם אי־שם בתהליך. האו״ם והצלב האדום קראו לכללים בין־לאומיים מחמירים יותר לנשק אוטונומי קטלני; הקריאה הזאת אינה שקולה לאיסור גורף שכבר חל בכל העולם.5558

הראיות מצדיקות היערכות ומניעה, לא תחושת גורל ידוע מראש. לפי הדיווחים, בינה מלאכותית סיפקה סיוע מסוכן ונעשה ניסיון להשתמש בה בפעילות ביולוגית, במתקפות סייבר ובפיתוח נשק. טענה על אסון בקנה מידה קטסטרופלי או קיומי דורשת ראיות נוספות לנזק שהתרחש — לא רק מודל בעל יכולות מרשימות או תוכנית מעוררת דאגה.212246