ОтветыОпубликовано18 источники
Глава ИИ Tencent предупредил о рисках применения ИИ в биологии
Яо Шуньюй предупредил, что модели ИИ могут вскоре получить возможности для причинения вреда в биологии — подобные риски уже существуют в кибербезопасности. Вышедшая 4 ноября Hy4 получила возможности понимать изображения и работать с компьютером; Tencent сообщила, что веса модели и системная карта безопасности будут...
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Яо Шуньюй предупредил, что модели ИИ могут вскоре получить возможности для причинения вреда в биологии — подобные риски уже существуют в кибербезопасности.
- Вышедшая 4 ноября Hy4 получила возможности понимать изображения и работать с компьютером; Tencent сообщила, что веса модели и системная карта безопасности будут опубликованы позднее.
- По данным Tencent, Hy4 набрала 30,4 балла из 100 в тесте на проектирование биологических экспериментов и не достигла установленного компанией порога высокого риска.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Главный научный специалист Tencent по ИИ Яо Шуньюй предупредил, что модели могут вскоре научиться применять знания в биологии так, чтобы причинять реальный вред. По его словам, кибернетические возможности ИИ уже способны создавать риски, а биологические приближаются к сопоставимому рубежу. 2
8
Это предупреждение о развитии передовых моделей в целом, а не утверждение, что Hy4 уже умеет выполнять опасные биологические задачи. Яо также отметил, что в биологии может быть труднее, чем в кибербезопасности, отделить защитное применение технологий от наступательного. При этом ИИ способен помогать исследованиям лекарств и методов лечения. 1
8
Что известно о Hy4
Tencent представила Hy4 4 ноября. Модель с 770 млрд параметров получила возможности понимать визуальную информацию, рассуждать и работать с компьютером — в том числе через командную строку и графический интерфейс. 4
5
На момент запуска компания говорила, что планирует позднее выпустить веса модели и системную карту с подробной информацией о безопасности. Это отдельные запланированные публикации, а не материалы, уже доступные вместе с запуском. 1
9
12
Tencent сообщила, что Hy4 набрала 30,4 балла из 100 в Hy-BioExperimentBench — тесте на проектирование открытых биологических экспериментов. По оценке компании, результат ниже установленного ею порога высокого риска. Внутренняя проверка показала, что модель обладает базовыми знаниями по биологии, но пока ограниченно способна превращать их в конкретные лабораторные протоколы. 4
13
Эта оценка помогает понять, как Tencent описывает возможности Hy4, но не опровергает предупреждение Яо: речь идёт о разных вещах — рисках развития передовых моделей в целом и результатах тестирования одной модели. Кроме того, балл и порог приводит сама компания; это не независимая гарантия безопасности Hy4. 8
13
Какие меры безопасности заявляет Tencent
Компания утверждает, что ограничила материалы по кибербезопасности в обучающих данных защитными примерами — например, созданием подтверждений уязвимости и её устранением. По словам Tencent, из данных исключили материалы по разработке эксплойтов, обратной разработке и тестированию на проникновение. Компания также сообщила, что специалисты лабораторий Xuanwu и Keen провели проверки методом «красной команды» — попытались выявить уязвимости и потенциально опасные возможности модели. 12
Эти меры описывают подход Tencent к безопасности Hy4, но сами по себе не снимают более широкий вопрос, поставленный Яо: как контролировать модели по мере роста их научных возможностей, когда полезные и потенциально опасные способы применения становится сложнее разграничить. 8
12
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Глава ИИ Tencent предупредил о рисках применения ИИ в биологии»?
Яо Шуньюй предупредил, что модели ИИ могут вскоре получить возможности для причинения вреда в биологии — подобные риски уже существуют в кибербезопасности.
Какие ключевые моменты необходимо проверить в первую очередь?
Яо Шуньюй предупредил, что модели ИИ могут вскоре получить возможности для причинения вреда в биологии — подобные риски уже существуют в кибербезопасности. Вышедшая 4 ноября Hy4 получила возможности понимать изображения и работать с компьютером; Tencent сообщила, что веса модели и системная карта безопасности будут опубликованы позднее.
Что мне делать дальше на практике?
По данным Tencent, Hy4 набрала 30,4 балла из 100 в тесте на проектирование биологических экспериментов и не достигла установленного компанией порога высокого риска.