AnswersPublished18 sources
אזהרת טנסנט על AI וביולוגיה — ומה מלמדות בדיקות הבטיחות של Hy4
יאו שוניו הזהיר שמודלים עשויים בקרוב לאפשר פגיעה בתחום הביולוגיה, בדומה לסיכונים שכבר קיימים בתחום הסייבר. Hy4 הושק ב־4 בנובמבר עם יכולות הבנת תמונה ושימוש במחשב; טנסנט אמרה שמשקולות המודל וכרטיס מערכת עם מידע בטיחותי יפורסמו בהמשך.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- יאו שוניו הזהיר שמודלים עשויים בקרוב לאפשר פגיעה בתחום הביולוגיה, בדומה לסיכונים שכבר קיימים בתחום הסייבר.
- Hy4 הושק ב־4 בנובמבר עם יכולות הבנת תמונה ושימוש במחשב; טנסנט אמרה שמשקולות המודל וכרטיס מערכת עם מידע בטיחותי יפורסמו בהמשך.
- טנסנט דיווחה ש־Hy4 קיבל 30.4 מתוך 100 במבחן לתכנון ניסויים ביולוגיים, וטענה כי הוא מתחת לסף הסיכון הגבוה שלה.
- החברה אומרת שסיננה חומר סייבר התקפי מהאימון ושצוותי האבטחה שלה ערכו בדיקות צוות אדום.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
מדען הבינה המלאכותית הראשי של טנסנט, יאו שוניו, הזהיר בכנס מדעי בהונג קונג שמודלים של בינה מלאכותית עלולים בקרוב לאפשר פגיעה בתחום הביולוגיה — בדומה ליכולות שכבר עלולות לגרום נזק בתחום הסייבר. האזהרה עוסקת בסיכונים העתידיים של מודלים מתקדמים בכלל; היא אינה קביעה שהמודל החדש של טנסנט, Hy4, כבר חצה סף סיכון ביולוגי. 2
8
מה עומד מאחורי האזהרה
לפי הדיווחים על דבריו של יאו, יכולות הבינה המלאכותית בתחום הביולוגיה מתקרבות לנקודה שבה הן עלולות לאפשר נזק ממשי. עוד דווח כי בתחום הביולוגיה קשה יותר להבחין בין יכולות שנועדו למטרות הגנה לבין יכולות שעלולות לשמש לתקיפה, בהשוואה לתחום הסייבר. 1
8
זו אזהרה על כיוון ההתפתחות של הטכנולוגיה, ולא טענה שכל מודל זמין כיום מסוגל לבצע פעולות ביולוגיות מזיקות. לדברי יאו, לבינה מלאכותית עשוי להיות גם פוטנציאל מועיל בביולוגיה, למשל בזירוז מחקר על תרופות וטיפולים. 8
מה טנסנט מדווחת על Hy4
טנסנט השיקה את Hy4 ב־4 בנובמבר. במודל, הכולל 770 מיליארד פרמטרים, נוספו יכולות של הבנת תמונה, הסקת מסקנות ושימוש במחשב — לרבות עבודה דרך שורת פקודה וממשק גרפי. 4
5
בעת ההשקה תיארה טנסנט את פרסום משקולות המודל ואת כרטיס המערכת, שאמור לכלול מידע נוסף על הערכת הבטיחות, כצעדים מתוכננים. חשוב להבחין בין השקת המודל בשירותים המקוונים לבין פרסום הקבצים האלה לציבור. 1
9
12
טנסנט דיווחה כי Hy4 קיבל 30.4 מתוך 100 ב־Hy-BioExperimentBench, מבחן לתכנון ניסויים ביולוגיים פתוחים. החברה אמרה שהתוצאה נמוכה מסף הסיכון הגבוה שלה. בהערכה פנימית, לפי הדיווח, נמצא שלמודל יש ידע ביולוגי בסיסי, אך יכולתו להפוך אותו לפרוטוקולים מעשיים לביצוע במעבדה מוגבלת. 4
13
התוצאה מספקת הקשר לאזהרה של יאו, אבל אינה מפריכה אותה: הוא דיבר על התפתחות יכולותיהם של מודלים מתקדמים, ואילו הציון מתייחס להערכה של טנסנט לגבי מודל אחד. גם הציון וגם סף הסיכון הם נתונים שהחברה דיווחה עליהם — לא ערובה עצמאית לכך ש־Hy4 בטוח. 8
13
אמצעי ההגנה שטנסנט מתארת
טנסנט אומרת כי באימון Hy4 היא הגבילה את חומרי הסייבר לתכנים הגנתיים, כגון יצירת הוכחות היתכנות לתיקון חולשות. לדבריה, היא סיננה תכנים כמו פיתוח פרצות, הנדסה לאחור ובדיקות חדירה. החברה מוסיפה שמומחים ממעבדות האבטחה שלה, Xuanwu Lab ו־Keen Security Lab, ערכו למודל בדיקות צוות אדום. 12
אלה אמצעי הגנה שטנסנט מדווחת עליהם, אך הם אינם פותרים כשלעצמם את השאלה הרחבה שהעלה יאו: איך לנהל מודלים ככל שיכולותיהם המדעיות גדלות, וכשההבחנה בין שימוש מועיל לבין שימוש שעלול לגרום נזק נעשית מורכבת יותר. 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "אזהרת טנסנט על AI וביולוגיה — ומה מלמדות בדיקות הבטיחות של Hy4"?
יאו שוניו הזהיר שמודלים עשויים בקרוב לאפשר פגיעה בתחום הביולוגיה, בדומה לסיכונים שכבר קיימים בתחום הסייבר.
What are the key points to validate first?
יאו שוניו הזהיר שמודלים עשויים בקרוב לאפשר פגיעה בתחום הביולוגיה, בדומה לסיכונים שכבר קיימים בתחום הסייבר. Hy4 הושק ב־4 בנובמבר עם יכולות הבנת תמונה ושימוש במחשב; טנסנט אמרה שמשקולות המודל וכרטיס מערכת עם מידע בטיחותי יפורסמו בהמשך.
What should I do next in practice?
טנסנט דיווחה ש־Hy4 קיבל 30.4 מתוך 100 במבחן לתכנון ניסויים ביולוגיים, וטענה כי הוא מתחת לסף הסיכון הגבוה שלה.