答案已發布2 小時前Last edited 2 小時前12 來源

AI愈識生物，愈要防被濫用？騰訊AI首席科學家警告逼近「造成實害」門檻

姚順雨警告，AI模型在生物學方面的能力可能快將強大到足以造成現實傷害。 AI有望加快藥物和療法發現，但相關能力亦可能被用來研發生物武器，或助長疫情風險。他談及的是未來可能出現的風險門檻，並非證明現有模型已能獨立造成生物災難。

發布者使用 GPT-6 Luna 編輯圖片由 GPT Image 2 生成

使用 Studio Global AI 搜尋並查核事實瀏覽更多熱門頁面

研究答案

重點

姚順雨警告，AI模型在生物學方面的能力可能快將強大到足以造成現實傷害。
AI有望加快藥物和療法發現，但相關能力亦可能被用來研發生物武器，或助長疫情風險。
他談及的是未來可能出現的風險門檻，並非證明現有模型已能獨立造成生物災難。

Illustration representing artificial intelligence applied to biology and the potential tension between medical discovery and biosecurity risks. — What did Tencent Holdings’ chief AI scientist and former OpenAI researcher Vinces Yao Shunyu warn during his rare public appearance at a sciAI’s growing role in biology could bring medical benefits while raising concerns about misuse.
AI 提示
Create a landscape editorial hero image for this Studio Global article: What did Tencent Holdings’ chief AI scientist and former OpenAI researcher Vinces Yao Shunyu warn during his rare public appearance at a sci. Article summary: Yao warned that AI’s approaching mastery of biology could bring major medical benefits but also serious security risks: the same capabilities could help malicious actors develop biological weapons or cause a new pandemic. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
openai.com

騰訊首席AI科學家姚順雨近日警告，AI模型的生物學能力可能快將強大到足以造成現實傷害。AI用於醫學和生物研究，或有助加快發現新藥和療法；但能力愈強，也愈可能被不法人士利用，尤其是模型以「開放權重」方式發布時。 4

一體兩面：助研發，也可能被濫用

AI正愈來愈多應用於醫學和生物學研究。模型若能更有效處理生物學問題，研究人員或可更快尋找藥物和治療方法。另一方面，生物學知識亦有雙重用途：惡意人士可能嘗試利用相關能力研發生物武器，甚至引發新一輪疫情。 4

姚順雨的警告，正正點出這種兩難：醫學上的潛在好處，並不能消除安全風險；兩者可能源自同一種能力提升。 4

所謂「造成實害」門檻是甚麼？

姚順雨把AI模型的網絡安全能力，與正在增長的生物學能力相提並論。他警告，兩方面的能力都可能到達一個門檻，令模型有可能協助造成實際傷害。 8

重點不只是模型「知道」多少生物學知識，而是其能力會否變得足以實際協助有害行為。現有報道呈現的是對未來風險的警告，並非證明現時的模型已能獨立引發生物災難。 4 8

為何開放權重發布惹人關注？

《南華早報》的報道特別提到模型遭惡意利用的風險，當中包括以開放權重方式發布的模型。 4「開放權重」是指模型的核心參數可供外界取得；模型因此不只限於開發機構內部使用，發布時如何設置保障措施，以及如何降低濫用風險，也成為討論焦點。

目前可見的報道未有交代詳細防護方案，亦沒有提供生物學能力何時會跨過風險門檻的時間表。姚順雨提出的核心提醒較為直接：AI協助生物研究的能力正在提升，開發者需要同時正視它對醫學的潛在幫助，以及被用來造成傷害的可能。 4 8

Studio Global AI

繼續你的研究

此頁麵包含一個有來源支援的答案，您可以在 Studio Global 內繼續。

使用 Studio Global AI 搜尋並查核事實

人們還問