כך מעבדות AI מנסות לצמצם את הסיכון לנשק ביולוגי

מודלי AI מדעיים עשויים להאיץ מחקר בביולוגיה, רפואה ופיתוח תרופות. במקביל, ככל שהיכולות שלהם מתקדמות, הם עלולים להקטין חלק מהחסמים של ידע, זמן, מומחיות ותיאום הנדרשים לשימוש לרעה בכימיה או בביולוגיה.

התגובה שמתגבשת אצל מעבדות AI, חוקרים וקובעי מדיניות אינה חסימה גורפת של ביולוגיה — וגם לא הסתמכות על תשובת סירוב של צ׳אטבוט. מדובר במערך רב־שכבתי: הערכות יכולת, בקרות גישה, ניטור, וסגירת נקודות תורפה שבהן רעיון חישובי הופך לפעולה ממשית במעבדה.

השאלה המרכזית: האם המודל יוצר «שיפור יכולת» מדיד?

המדד אינו אם צ׳אטבוט ציבורי מסוגל למסור, לפי בקשה אחת, מתכון מלא לנשק ביולוגי. השאלה היא אם מודל מתקדם יכול להפוך פרויקט מסוכן לקל יותר באופן מהותי — למשל לקצר זמן, להפחית צורך במומחיות, לסייע בפתרון תקלות או להקל על תיאום בין שלבים שונים.

פגיעה ביולוגית אינה נוצרת מטקסט בלבד: היא דורשת חומרים, ציוד, ידע מעשי וביצוע. נייר עבודה על מודלי בסיס עכשוויים מציג את הסיכון כיכולת אפשרית להדריך משתמשים לאורך תהליכי פיתוח טכניים ומורכבים, ולא כתוצאה של פרומפט בודד.

כך נראה ארגז הכלים של המעבדות

הכיוון המשותף כולל כמה שכבות משלימות:

• בדיקות יכולת: בחינת מודלים מול מומחים ובתרחישים יריביים, כדי לבדוק אם הסיוע בביולוגיה או בכימיה חורג באופן משמעותי ממידע זמין רגיל.
• הגנות מדויקות: סירוב, הפניה או הגבלה של בקשות בתחומים דו־שימושיים בסיכון גבוה — תוך ניסיון לשמור גישה לשאלות חינוך, בריאות ומחקר בסיכון נמוך.
• הפצה מדורגת: מתן יכולות רגישות במיוחד רק למשתמשים או ארגונים שעברו בדיקה, ובתנאים מוגדרים, במקום פרסום רחב לכלל הציבור.
• כיול שוטף: עדכון מסווגים וכללי גישה כשהם חוסמים שימושים לגיטימיים יתר על המידה, או כשהמודלים נעשים חזקים יותר.
• חסמים מחוץ למודל: הגנה על השלבים שבהם שימוש לרעה חייב להפוך לפעולה פיזית, ובראשם השגת חומרים ביולוגיים.

דוגמת Anthropic: פחות חסימות שווא, בלי לפתוח תחומים דו־שימושיים

העדכון של Anthropic למודל Fable 5 ממחיש את האיזון. החברה מסרה כי צמצמה בכ־85% את ההפניות האוטומטיות הקשורות לביולוגיה בכלל המוצרים שלה, ולכן המודל יכול לסייע במגוון רחב יותר של משימות ביולוגיות.

עם זאת, בקשות שהמערכת מסווגת כדו־שימושיות — ובהן וירולוגיה, טוקסיקולוגיה ותכנון מולקולרי — עדיין מופנות ל־Opus 5, מודל פחות בעל יכולת בהקשר זה. לפי Anthropic, Fable 5 עדיין אינו זמין למחקר ביולוגי מקצועי ולפיתוח תרופות בתחומים הרגישים האלה.

העיקרון חשוב יותר ממנגנון הניתוב עצמו: חסימה של כל שאלה בביולוגיה עלולה לפגוע בלמידה לגיטימית, בפרשנות קלינית ובעבודה מדעית שגרתית; אך התייחסות לכל בקשה כבלתי מזיקה עלולה לפספס סיוע רגיש באמת. הפחתת חסימות שווא היא חלק מבטיחות טובה יותר, לא ויתור עליה.

גישה מבוקרת למערכות בעלות יכולת גבוהה יותר

Anthropic מפעילה גישה מוגבלת גם עבור מודלי Mythos. בעמוד Mythos שלה נכתב כי Mythos 5.1 השתפר בביולוגיה ובאבטחת סייבר, וכי הגישה אליו עדיין מוגבלת למספר קטן של ארגונים שעברו אימות. 1

בהכרזה על Mythos 5, החברה תיארה אותו כמודל עם אותה תשתית בסיסית של Fable 5, אך עם הסרות של הגנות בחלק מהתחומים. ההשקה הראשונית הוגבלה לקבוצה קטנה של מגיני סייבר וספקי תשתיות במסגרת Project Glasswing. 7

גישה כזו אינה מבטלת את הסיכון: עדיין נדרשים אימות משתמשים, רישום פעילות, בקרה על השימוש בפועל ומענה לאירועים. אולם היא מציעה חלופה לבחירה הבינארית בין פרסום פומבי מלא לבין איסור מוחלט: לפרוס יכולות בסיכון גבוה תחילה בסביבות מצומצמות יותר, שבהן זהות המשתמשים, מטרת השימוש והפיקוח ברורים יותר.

למה הגנות בתוך המודל אינן מספיקות

אפשר לעקוף או להחליש הגנות ברמת המודל באמצעות מודלים חלופיים, כוונון ייעודי, גנבת הרשאות, שילוב כלים, או חלוקת משימות בין כמה אנשים ומערכות. לכן בקרת גישה לבדה אינה אסטרטגיית ביוביטחון שלמה.

בדוח של RAND משנת 2026 מודגש כי שום אמצעי הגנה יחיד אינו יכול למנוע שימוש ב־AI לסיוע בבניית נשק ביולוגי. הדוח מזהה תשע התערבויות שנועדו להפחית סיכון בנקודות שונות לאורך מסלול תקיפה ובקרב שחקנים מסוגים שונים.

בפועל, מערך הגנה חזק אמור לשלב:

1. הערכות מודל וספי החלטה לפני הפצה;
2. הגבלות מידתיות ותוכניות גישה למשתמשים מהימנים;
3. אימות לקוחות, יכולת ביקורת ודיווח במקרים המתאימים;
4. סינון ופיקוח על רכישת חומרים;
5. זיהוי התפרצויות, ניטור בריאות הציבור ויכולת תגובה משופרת.

כאשר שכבה אחת נכשלת, השכבות האחרות עשויות עדיין למנוע את התוצאה המזיקה.

סינון הזמנות DNA ו־RNA: קו הגנה פיזי קריטי

רעיון שנוצר בעזרת AI עדיין צריך להפוך לחומרים ולפעילות מעבדתית. לכן סינתזה של חומצות גרעין — DNA ו־RNA — היא נקודת התערבות חשובה.

הגשה למכון האמריקאי לבטיחות AI המליצה, בין היתר, על מאגרי רצפים של DNA, RNA וחלבונים מעוררי חשש, שיוכלו לסייע לכלי סינון לזהות בקשות שעשויות להיות מזיקות. 17 RAND ציינה גם את המסגרת האמריקאית לסינון סינתזת חומצות גרעין ואת נהלי הסינון בתעשייה עבור הזמנות מסחריות של חומרים ביולוגיים.

סינון אפקטיבי אינו רק רשימת רצפים: הוא יכול לכלול אימות לקוח, בדיקה של הזמנות חריגות, נהלי הסלמה ושיתוף מידע בכפוף לחוק. אמצעים כאלה לא יפתרו כל סיכון, אך הם עשויים להקשות על תרגום של סיוע חישובי מסוכן ליכולת ממשית.

ביוהגנה: הגבלות לצד שימושים מועילים

האתגר המדיני אינו פשוט דיכוי של AI ביולוגי. אותן יכולות שמעוררות חשש לשימוש דו־שימושי עשויות לשפר ניטור מחלות, אבחון, פיתוח אמצעי נגד רפואיים ופורנזיקה מיקרוביאלית.

בשנת 2026, הוועדה הדו־מפלגתית לביוהגנה של Atlantic Council הגדירה AI כעדיפות הטכנולוגית ה־16 בתוכנית Apollo Program for Biodefense. בין המלצותיה: השקעה בניטור ובאבחון בסיוע AI, אמצעי נגד רפואיים, ייחוס מקור, הערכות מודלים והגנות, וכן תגובה אדפטיבית של מערכות בריאות הציבור.

זו מסגרת מועילה לדיון: לצמצם הזדמנויות לשימוש לרעה, בלי לוותר על הפוטנציאל של הטכנולוגיה לשפר היערכות ומחקר רפואי.

השורה התחתונה

אין ראיות פומביות לכך שצ׳אטבוטים רגילים הם מסלול מוכן מקצה לקצה ליצירת נשק ביולוגי. אבל זה גם אינו הרף שלפיו פועלות המעבדות והרשויות. הן נערכות לאפשרות שמודלים מדעיים חזקים יותר יעניקו לחלק מהמשתמשים «שיפור יכולת» ביולוגי מדיד.

לכן התגובה החזקה ביותר אינה איסור גורף על ביולוגיה, וגם לא אמון בסירוב של צ׳אטבוט בלבד. היא נשענת על גישה מידתית, בדיקות קפדניות, הגנות מדויקות לבקשות דו־שימושיות וחסמים בשכבות הפיזיות ובריאות הציבור — המקומות שבהם תוכנית מזיקה חייבת בסופו של דבר להתממש.