AnswersPublished12 sources
אותה פריצת דרך שעשויה לסייע בפיתוח תרופות עלולה לשמש גם למטרות מסוכנות
יאו שוניו הזהיר שמודלי AI עשויים בקרוב להיות מסוגלים מספיק בביולוגיה כדי לאפשר פגיעה בעולם האמיתי. אותן יכולות עשויות לסייע בגילוי תרופות וטיפולים, אך גם להיות מנוצלות לפיתוח נשק ביולוגי או לעורר מגפה.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- יאו שוניו הזהיר שמודלי AI עשויים בקרוב להיות מסוגלים מספיק בביולוגיה כדי לאפשר פגיעה בעולם האמיתי.
- אותן יכולות עשויות לסייע בגילוי תרופות וטיפולים, אך גם להיות מנוצלות לפיתוח נשק ביולוגי או לעורר מגפה.
- מדובר באזהרה מפני סיכון מתקרב, ולא בהוכחה שמודלים קיימים יכולים לחולל אסון ביולוגי בכוחות עצמם.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent Holdings’ chief AI scientist and former OpenAI researcher Vinces Yao Shunyu warn during his rare public appearance at a sci. Article summary: Yao warned that AI’s approaching mastery of biology could bring major medical benefits but also serious security risks: the same capabilities could help malicious actors develop biological weapons or cause a new pandemic. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
הבינה המלאכותית עשויה לעזור לחוקרים למצוא תרופות וטיפולים מהר יותר. אבל ככל שמודלים נעשים מיומנים יותר בביולוגיה, עולה גם החשש שאפשר יהיה לנצל את אותה יכולת למטרות מזיקות.
יאו שוניו, המדען הראשי של טנסנט בתחום הבינה המלאכותית, הזהיר שמודלים עשויים בקרוב להיות חזקים מספיק כדי להגיע לרמת שליטה בביולוגיה שמאפשרת פגיעה ממשית. לדבריו, יש כאן פוטנציאל רפואי לצד סיכונים חמורים, במיוחד אם מודלים מתקדמים יופצו עם משקולות פתוחות. 4
אותה יכולת, שני כיוונים
מערכות AI משולבות יותר ויותר בתחומי הרפואה והביולוגיה. יכולות מתקדמות יותר עשויות לסייע בגילוי תרופות וטיפולים; מנגד, ידע ביולוגי עשוי להיות דו־שימושי — כלומר, לשמש גם למטרות מועילות וגם לניצול לרעה. גורמים זדוניים עלולים לנסות להיעזר בו כדי לפתח נשק ביולוגי או לגרום למגפה. 4
זו המתיחות שבמרכז האזהרה של יאו: התועלת האפשרית לרפואה אינה מבטלת את הסיכון הביטחוני. שניהם נובעים מהתחזקות היכולות של המודלים. 4
לא רק ידע — אלא יכולת שמאפשרת פעולה
יאו השווה בין היכולות של מודלים בתחום הסייבר לבין היכולות הביולוגיות המתפתחות שלהם, והזהיר כי הן עשויות להגיע לסף שבו יתאפשר לגרום נזק ממשי. 8
ההבחנה חשובה: החשש אינו רק מכך שמודל מכיל מידע על ביולוגיה, אלא מכך שהיכולות שלו יהפכו לשימושיות בפועל לפעילות מזיקה. הדיווחים מציגים את דבריו כאזהרה מפני סיכון עתידי, ולא כראיה לכך שמודלים קיימים מסוגלים לחולל לבדם אסון ביולוגי. 4
8
למה משקולות פתוחות מעוררות דאגה
הדיווח של South China Morning Post הדגיש את האפשרות לשימוש זדוני, ובפרט את הסיכונים הכרוכים בהפצת מודלים עם משקולות פתוחות. 4 כשהמשקולות זמינות מחוץ לארגון שפיתח את המודל, שאלות של אמצעי הגנה ושל מניעת שימוש לרעה נעשות חלק מרכזי בדיון על הפצה.
הדיווחים הזמינים אינם מפרטים תוכנית הגנה מסוימת או מועד שבו היכולות הביולוגיות יחצו את הסף שממנו ניתן לגרום נזק. עיקר המסר של יאו ממוקד יותר: היכולת של AI לסייע בביולוגיה מתקדמת, ויש להביא בחשבון שהיא עשויה לשרת הן את הרפואה והן מטרות מזיקות. 4
8
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "אותה פריצת דרך שעשויה לסייע בפיתוח תרופות עלולה לשמש גם למטרות מסוכנות"?
יאו שוניו הזהיר שמודלי AI עשויים בקרוב להיות מסוגלים מספיק בביולוגיה כדי לאפשר פגיעה בעולם האמיתי.
What are the key points to validate first?
יאו שוניו הזהיר שמודלי AI עשויים בקרוב להיות מסוגלים מספיק בביולוגיה כדי לאפשר פגיעה בעולם האמיתי. אותן יכולות עשויות לסייע בגילוי תרופות וטיפולים, אך גם להיות מנוצלות לפיתוח נשק ביולוגי או לעורר מגפה.
What should I do next in practice?
מדובר באזהרה מפני סיכון מתקרב, ולא בהוכחה שמודלים קיימים יכולים לחולל אסון ביולוגי בכוחות עצמם.
Sources
scmp.comAI will soon master biology, unleashing new safety risks, Tencent AI chief warns
podimo.comThe Hinge - Podimo
bastillepost.com2026 Future Science Prize Week - Laureates' Dialogue with the Youth Three Laureates Share Inspiring Journeys to Empower 200 Local Secondary Students