ОтветыОпубликовано12 источники
ИИ в биологии: где проходит грань между медицинским прорывом и угрозой
Яо Шуньюй предупредил, что модели ИИ могут вскоре достичь такого уровня в биологии, который позволит использовать их возможности для причинения реального вреда. Биологические способности ИИ могут помочь в поиске лекарств и методов лечения, но ими также могут воспользоваться для создания биологического оружия или про...
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Яо Шуньюй предупредил, что модели ИИ могут вскоре достичь такого уровня в биологии, который позволит использовать их возможности для причинения реального вреда.
- Биологические способности ИИ могут помочь в поиске лекарств и методов лечения, но ими также могут воспользоваться для создания биологического оружия или провоцирования пандемии.
- Речь идёт о возможном пороге риска, а не о доказательстве, что нынешние модели способны самостоятельно вызвать биологическую катастрофу.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent Holdings’ chief AI scientist and former OpenAI researcher Vinces Yao Shunyu warn during his rare public appearance at a sci. Article summary: Yao warned that AI’s approaching mastery of biology could bring major medical benefits but also serious security risks: the same capabilities could help malicious actors develop biological weapons or cause a new pandemic. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Глава ИИ-направления Tencent Яо Шуньюй предупредил: модели искусственного интеллекта могут вскоре стать настолько сильными в биологии, что их способности можно будет использовать для причинения реального вреда. При этом те же технологии способны ускорить поиск лекарств и методов лечения. Главный вопрос — как не допустить, чтобы прогресс в медицине обернулся угрозой безопасности. 4
У одной технологии — две стороны
ИИ всё активнее применяют в медицине и биологии. Более мощные модели могут помочь исследователям быстрее находить потенциальные лекарства и разрабатывать методы лечения. Но биологические знания могут быть использованы и во вред: злоумышленники способны попытаться применить их для создания биологического оружия или запуска новой пандемии. 4
Именно в этом противоречии — суть предупреждения Яо. Потенциальная польза для медицины не отменяет риска: он связан с теми же растущими возможностями моделей. 4
Что означает «порог» возможного вреда
Яо сопоставил способности ИИ в кибербезопасности с формирующимися возможностями в биологии. По его оценке, и те и другие могут достичь уровня, на котором модели станут практически применимы для причинения вреда. 8
Здесь важно различать наличие у модели биологических знаний и способность помочь использовать их на практике. Предупреждение касается возможного развития технологий, а не утверждения, что нынешние модели уже могут самостоятельно вызвать биологическую катастрофу. 4
8
Почему обсуждают модели с открытыми весами
В публикации South China Morning Post отдельно отмечен риск злоупотреблений, особенно когда модели выпускают с открытыми весами — то есть предоставляют доступ к параметрам, на которых они обучены. 4 Такой способ выпуска делает модель доступнее за пределами организации-разработчика, поэтому вопросы защиты и возможного злоупотребления становятся частью дискуссии о том, как и когда открывать доступ.
В доступных сообщениях не приводится подробный план мер предосторожности и не называется срок, когда биологические возможности ИИ могут перейти этот порог. Основная мысль Яо уже: модели всё лучше справляются с задачами в биологии, и разработчикам нужно учитывать, что эти способности могут служить не только медицине, но и вредоносным целям. 4
8
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «ИИ в биологии: где проходит грань между медицинским прорывом и угрозой»?
Яо Шуньюй предупредил, что модели ИИ могут вскоре достичь такого уровня в биологии, который позволит использовать их возможности для причинения реального вреда.
Какие ключевые моменты необходимо проверить в первую очередь?
Яо Шуньюй предупредил, что модели ИИ могут вскоре достичь такого уровня в биологии, который позволит использовать их возможности для причинения реального вреда. Биологические способности ИИ могут помочь в поиске лекарств и методов лечения, но ими также могут воспользоваться для создания биологического оружия или провоцирования пандемии.
Что мне делать дальше на практике?
Речь идёт о возможном пороге риска, а не о доказательстве, что нынешние модели способны самостоятельно вызвать биологическую катастрофу.
Источники
scmp.comAI will soon master biology, unleashing new safety risks, Tencent AI chief warns
podimo.comThe Hinge - Podimo
bastillepost.com2026 Future Science Prize Week - Laureates' Dialogue with the Youth Three Laureates Share Inspiring Journeys to Empower 200 Local Secondary Students