RespuestasPublicado18 fuentes
Tencent advierte que la IA podría abrir una nueva frontera de riesgo biológico
Yao Shunyu advirtió que los modelos de IA podrían llegar a causar daños en biología, como ya pueden hacerlo en ciberseguridad. Tencent lanzó Hy4 el 4 de noviembre con capacidades de comprensión visual, razonamiento y uso de computadoras; los pesos del modelo y una ficha del sistema se anunciaron como próximos lanzam...
Publicado porEditado con GPT-6 LunaImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- Yao Shunyu advirtió que los modelos de IA podrían llegar a causar daños en biología, como ya pueden hacerlo en ciberseguridad.
- Tencent lanzó Hy4 el 4 de noviembre con capacidades de comprensión visual, razonamiento y uso de computadoras; los pesos del modelo y una ficha del sistema se anunciaron como próximos lanzamientos.
- La empresa afirma que Hy4 obtuvo 30,4 sobre 100 en una evaluación de diseño de experimentos biológicos y que aplicó filtros y auditorías de seguridad en ciberseguridad.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
El científico jefe de IA de Tencent, Yao Shunyu, advirtió en un simposio científico en Hong Kong que los modelos podrían pronto alcanzar capacidades biológicas capaces de causar daños, de forma comparable a los riesgos que ya existen en ciberseguridad. Su comentario apunta a una preocupación más amplia sobre los modelos de frontera; no demuestra que el Hy4 de Tencent haya superado un umbral de alto riesgo biológico. 2
8
La advertencia de Yao
Según los reportes sobre su intervención, Yao considera que las capacidades de la IA en biología se acercan a un punto en el que podrían permitir daños reales. También se ha señalado que, en este ámbito, puede ser más difícil distinguir entre usos ofensivos y defensivos que en ciberseguridad. 1
8
La advertencia se refiere a la evolución de las capacidades de la IA, no a que todos los modelos actuales puedan realizar tareas biológicas dañinas. Los reportes sobre las declaraciones de Yao también mencionan posibles beneficios, como acelerar la investigación de medicamentos y tratamientos. 8
Qué se sabe de Hy4
Tencent lanzó Hy4 el 4 de noviembre. El modelo, de 770.000 millones de parámetros, incorpora comprensión visual, razonamiento y funciones para usar una computadora, como interactuar con interfaces de línea de comandos y gráficas. 4
5
Al presentar el modelo, Tencent dijo que planeaba publicar sus pesos —los archivos que permiten ejecutar o adaptar el modelo— y una ficha del sistema con más información de seguridad. Esos materiales anunciados para más adelante no deben confundirse con el acceso alojado que acompañó el lanzamiento. 1
9
12
Tencent informó que Hy4 obtuvo 30,4 sobre 100 en Hy-BioExperimentBench, una evaluación de diseño abierto de experimentos biológicos. La empresa dijo que el resultado estaba por debajo de su umbral de alto riesgo. En su evaluación interna, describió un modelo con conocimientos básicos de biología, pero con capacidad limitada para convertirlos en protocolos de laboratorio aplicables. 4
13
El resultado aporta contexto, pero no refuta directamente la advertencia de Yao: él habló de los riesgos emergentes de las capacidades de la IA de frontera, mientras que la puntuación corresponde a la evaluación que Tencent reportó para un modelo concreto. Ni la nota ni el umbral definido por la compañía constituyen, por sí solos, una garantía independiente de seguridad. 8
13
Las medidas de seguridad en ciberseguridad
Tencent afirma que limitó los datos de entrenamiento relacionados con ciberseguridad a material defensivo, como la generación de pruebas de concepto y la corrección de vulnerabilidades. También dice que filtró contenidos como el desarrollo de exploits, la ingeniería inversa y las pruebas de penetración. La compañía señala que especialistas de sus laboratorios Xuanwu y Keen Security realizaron auditorías de equipo rojo para buscar vulnerabilidades y riesgos. 12
Son medidas que Tencent dice haber aplicado, pero no resuelven por sí solas la cuestión más amplia planteada por Yao: cómo gestionar modelos cuyas capacidades científicas siguen creciendo y cuyos posibles usos dañinos pueden ser cada vez más difíciles de separar de los beneficios. 8
12
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Tencent advierte que la IA podría abrir una nueva frontera de riesgo biológico"?
Yao Shunyu advirtió que los modelos de IA podrían llegar a causar daños en biología, como ya pueden hacerlo en ciberseguridad.
¿Cuáles son los puntos clave a validar primero?
Yao Shunyu advirtió que los modelos de IA podrían llegar a causar daños en biología, como ya pueden hacerlo en ciberseguridad. Tencent lanzó Hy4 el 4 de noviembre con capacidades de comprensión visual, razonamiento y uso de computadoras; los pesos del modelo y una ficha del sistema se anunciaron como próximos lanzamientos.
¿Qué debo hacer a continuación en la práctica?
La empresa afirma que Hy4 obtuvo 30,4 sobre 100 en una evaluación de diseño de experimentos biológicos y que aplicó filtros y auditorías de seguridad en ciberseguridad.