RéponsesPublié18 sources
L’alerte de Tencent sur l’IA en biologie, à l’épreuve des résultats de Hy4
Yao Shunyu prévient que l’IA pourrait bientôt permettre de causer des dommages en biologie, comme elle peut déjà en causer en cybersécurité. Lancé le 4 novembre, Hy4 compte 770 milliards de paramètres et ajoute notamment la compréhension visuelle et l’utilisation d’un ordinateur.
Publié parModifié avec GPT-6 LunaImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Yao Shunyu prévient que l’IA pourrait bientôt permettre de causer des dommages en biologie, comme elle peut déjà en causer en cybersécurité.
- Lancé le 4 novembre, Hy4 compte 770 milliards de paramètres et ajoute notamment la compréhension visuelle et l’utilisation d’un ordinateur.
- Tencent rapporte un score de 30,4 sur 100 à un test de conception d’expériences biologiques et affirme avoir filtré certains contenus offensifs en cybersécurité.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Le scientifique en chef de Tencent, Yao Shunyu, a averti lors d’un symposium scientifique à Hong Kong que les modèles d’intelligence artificielle pourraient bientôt devenir capables de causer des dommages en biologie, comme ils le peuvent déjà en cybersécurité. Son intervention porte sur les risques liés aux capacités émergentes de l’IA ; elle ne signifie pas que le nouveau modèle Hy4 de Tencent a déjà franchi un seuil de risque biologique élevé. 2
8
Le risque que souligne Yao Shunyu
Selon les comptes rendus de ses propos, Yao estime que les capacités biologiques de l’IA se rapprochent d’un niveau auquel elles pourraient être utilisées pour causer des dommages. Il souligne également qu’il pourrait être plus difficile de distinguer les usages offensifs et défensifs en biologie qu’en cybersécurité. 1
8
Cette mise en garde concerne l’évolution des capacités de l’IA, et non la conclusion que tous les modèles actuels peuvent mener des activités biologiques dangereuses. Les comptes rendus évoquent aussi les bénéfices possibles de l’IA en biologie, notamment pour accélérer la recherche sur les médicaments et les traitements. 8
Ce que Tencent rapporte sur Hy4
Tencent a lancé Hy4 le 4 novembre. Ce modèle de 770 milliards de paramètres ajoute la compréhension visuelle, le raisonnement et des fonctions d’utilisation d’un ordinateur, notamment via des interfaces en ligne de commande ou graphiques. 4
5
Au lancement, Tencent a présenté la publication des poids du modèle et d’une fiche de sécurité détaillée — appelée system card — comme des étapes à venir. Il s’agit donc de distinguer le lancement du modèle, accessible par des services hébergés, de la mise à disposition annoncée de ces documents et fichiers. 1
9
12
Tencent indique que Hy4 a obtenu 30,4 sur 100 à Hy-BioExperimentBench, un test portant sur la conception d’expériences biologiques ouvertes. L’entreprise affirme que ce résultat reste sous son seuil de risque élevé. Son évaluation interne décrit un modèle qui possède des connaissances fondamentales en biologie, mais peine à les traduire en protocoles de laboratoire concrets. 4
13
Ce résultat apporte un éclairage sur l’avertissement de Yao, sans le réfuter directement : celui-ci concerne les capacités émergentes des modèles d’IA de pointe, tandis que le score correspond à l’évaluation annoncée par Tencent pour un modèle précis. Le résultat du test et le seuil défini par l’entreprise ne constituent pas, à eux seuls, une garantie indépendante de l’innocuité de Hy4. 8
13
Les garde-fous annoncés en cybersécurité
Tencent affirme avoir limité les données de cybersécurité utilisées pour entraîner Hy4 à des contenus défensifs, comme la génération de preuves de concept et la correction de vulnérabilités. L’entreprise indique avoir écarté des contenus portant notamment sur le développement d’exploits, la rétro-ingénierie et les tests d’intrusion. Elle dit aussi avoir fait réaliser des audits en équipe rouge par des spécialistes de ses laboratoires Xuanwu et Keen Security Lab. 12
Ces mesures sont celles que Tencent dit avoir mises en place. Elles ne règlent pas, à elles seules, la question plus large soulevée par Yao : comment encadrer des modèles dont les capacités scientifiques progressent, alors que les usages bénéfiques et les usages potentiellement dangereux peuvent être difficiles à séparer. 8
12
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « L’alerte de Tencent sur l’IA en biologie, à l’épreuve des résultats de Hy4 » ?
Yao Shunyu prévient que l’IA pourrait bientôt permettre de causer des dommages en biologie, comme elle peut déjà en causer en cybersécurité.
Quels sont les points clés à valider en premier ?
Yao Shunyu prévient que l’IA pourrait bientôt permettre de causer des dommages en biologie, comme elle peut déjà en causer en cybersécurité. Lancé le 4 novembre, Hy4 compte 770 milliards de paramètres et ajoute notamment la compréhension visuelle et l’utilisation d’un ordinateur.
Que dois-je faire ensuite en pratique ?
Tencent rapporte un score de 30,4 sur 100 à un test de conception d’expériences biologiques et affirme avoir filtré certains contenus offensifs en cybersécurité.