AnswersPublished18 sources
У Tencent попередили про біоризики ШІ: що відомо про безпеку моделі Hy4
Яо Шуньюй попередив: моделі ШІ можуть невдовзі набути здатності завдавати шкоди в біології — подібно до ризиків, які вже існують у кібербезпеці. Hy4 вийшла 4 листопада: модель на 770 мільярдів параметрів отримала розуміння зображень і можливість працювати з комп’ютерними інтерфейсами.
ОпублікувавВідредаговано за допомогою GPT-6 LunaЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- Яо Шуньюй попередив: моделі ШІ можуть невдовзі набути здатності завдавати шкоди в біології — подібно до ризиків, які вже існують у кібербезпеці.
- Hy4 вийшла 4 листопада: модель на 770 мільярдів параметрів отримала розуміння зображень і можливість працювати з комп’ютерними інтерфейсами.
- Tencent повідомила, що Hy4 набрала 30,4 зі 100 у власному тесті проєктування біологічних експериментів, а також описала фільтрацію кіберматеріалів і внутрішні red team перевірки.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Головний науковець Tencent з питань ШІ Яо Шуньюй попередив, що моделі можуть невдовзі стати здатними завдавати шкоди в біології — так само, як уже можуть створювати ризики в кіберпросторі. За повідомленнями про його виступ на науковому симпозіумі в Гонконзі, біологічні можливості ШІ наближаються до небезпечного порога, а відокремити їхнє застосування для нападу від захисного використання може бути складніше, ніж у кібербезпеці. 1
2
8
Це застереження стосується розвитку передових моделей загалом, а не є доказом того, що конкретно Hy4 уже перетнула поріг високого біологічного ризику. 8
Що Tencent повідомила про Hy4
Компанія представила Hy4 4 листопада. Модель із 770 мільярдами параметрів отримала можливості розуміти зображення, міркувати та взаємодіяти з комп’ютером, зокрема через командний рядок і графічні інтерфейси. 4
5
На момент запуску Tencent описувала публікацію ваг моделі та системної картки з докладнішою інформацією про безпеку як плани на майбутнє. Тобто запуск доступу до моделі не слід плутати з уже завершеним відкритим випуском цих матеріалів. 1
9
12
У власному тесті Hy-BioExperimentBench компанія повідомила результат Hy4 — 30,4 бала зі 100 — і заявила, що він нижчий за її поріг високого ризику. За внутрішньою оцінкою Tencent, модель має базові знання з біології, але поки що обмежено здатна перетворювати їх на придатні до виконання лабораторні протоколи. 4
13
Ці дані допомагають зрозуміти, як компанія оцінює одну свою модель, але не спростовують попередження Яо. Його заява стосується того, куди рухаються можливості передових систем загалом; оцінка Hy4 — результат тестування конкретної моделі за методикою та порогом, про які повідомила сама Tencent. Це не незалежна гарантія безпеки. 8
13
Які заходи кібербезпеки описала компанія
Tencent заявила, що обмежила кібербезпекові навчальні матеріали захисними прикладами — зокрема створенням демонстрацій концепції вразливостей і їхнім виправленням. За словами компанії, з навчання відфільтрували матеріали про розробку експлойтів, зворотну інженерію та тестування на проникнення. Перевірки red team провели фахівці лабораторій Tencent Xuanwu та Keen Security Lab. 12
Це опис заходів, про які повідомила Tencent, а не остаточна відповідь на ширше питання, порушене Яо: як контролювати моделі, коли їхні наукові можливості зростають, а межа між корисним і потенційно шкідливим застосуванням стає складнішою. 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "У Tencent попередили про біоризики ШІ: що відомо про безпеку моделі Hy4"?
Яо Шуньюй попередив: моделі ШІ можуть невдовзі набути здатності завдавати шкоди в біології — подібно до ризиків, які вже існують у кібербезпеці.
What are the key points to validate first?
Яо Шуньюй попередив: моделі ШІ можуть невдовзі набути здатності завдавати шкоди в біології — подібно до ризиків, які вже існують у кібербезпеці. Hy4 вийшла 4 листопада: модель на 770 мільярдів параметрів отримала розуміння зображень і можливість працювати з комп’ютерними інтерфейсами.
What should I do next in practice?
Tencent повідомила, що Hy4 набрала 30,4 зі 100 у власному тесті проєктування біологічних експериментів, а також описала фільтрацію кіберматеріалів і внутрішні red team перевірки.