RespostasPublicado18 fontes
Alerta da Tencent sobre IA e biologia coloca o Hy4 sob análise
Yao Shunyu afirma que modelos de IA podem se aproximar de um ponto em que suas capacidades biológicas permitam causar danos, como já pode ocorrer na cibersegurança. Lançado em 4 de novembro, o Hy4 tem 770 bilhões de parâmetros e ganhou recursos de compreensão visual, raciocínio e uso de computador.
Publicado porEditado com GPT-6 LunaImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- Yao Shunyu afirma que modelos de IA podem se aproximar de um ponto em que suas capacidades biológicas permitam causar danos, como já pode ocorrer na cibersegurança.
- Lançado em 4 de novembro, o Hy4 tem 770 bilhões de parâmetros e ganhou recursos de compreensão visual, raciocínio e uso de computador.
- A Tencent informou que o Hy4 obteve 30,4 de 100 em um teste de desenho de experimentos biológicos e descreveu medidas de segurança para cibersegurança.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
O cientista-chefe de inteligência artificial da Tencent, Yao Shunyu, alertou em um simpósio científico em Hong Kong que modelos de IA podem em breve ter capacidade para causar danos na biologia, assim como já podem fazê-lo na cibersegurança. O aviso trata dos riscos futuros dos modelos mais avançados — não comprova que o recém-lançado Hy4 tenha ultrapassado um limite de alto risco biológico. 2
8
O que Yao alertou
Segundo relatos de suas declarações, Yao vê as capacidades biológicas da IA se aproximando de um patamar em que poderiam permitir danos reais. Ele também teria destacado que, na biologia, pode ser mais difícil separar usos ofensivos de aplicações defensivas do que na cibersegurança. 1
8
A preocupação é com a evolução dessas capacidades, não com a afirmação de que todo modelo atual já consegue realizar tarefas biológicas nocivas. A IA também pode trazer benefícios para a pesquisa em biologia, como acelerar estudos de medicamentos e tratamentos. 8
O que a Tencent informou sobre o Hy4
A Tencent lançou o Hy4 em 4 de novembro. O modelo, com 770 bilhões de parâmetros, acrescentou compreensão visual, raciocínio e recursos de uso de computador, incluindo interação por linha de comando e interfaces gráficas. 4
5
No lançamento, a empresa informou que pretendia divulgar os pesos do modelo e um system card, documento que reúne informações sobre o sistema e suas avaliações de segurança. Esses materiais foram anunciados como lançamentos futuros e não devem ser confundidos com a disponibilização do modelo por serviços hospedados. 1
9
12
A Tencent reportou que o Hy4 marcou 30,4 de 100 no Hy-BioExperimentBench, uma avaliação de capacidade para propor experimentos biológicos abertos. A empresa disse que o resultado ficou abaixo de seu limite de alto risco. Segundo a avaliação interna divulgada, o modelo tem conhecimentos básicos de biologia, mas capacidade limitada para transformá-los em protocolos de laboratório acionáveis. 4
13
Esse resultado ajuda a contextualizar o alerta de Yao, mas não o contradiz diretamente: ele falou de riscos emergentes entre modelos avançados, enquanto a pontuação se refere à avaliação que a Tencent fez de um modelo específico. A nota e o limite definidos pela própria empresa também não equivalem a uma garantia independente de segurança. 8
13
Medidas de segurança em cibersegurança
A Tencent afirma ter limitado o material de cibersegurança usado no treinamento a conteúdos defensivos, como geração de provas de conceito e correção de vulnerabilidades. Segundo a empresa, materiais sobre desenvolvimento de exploits, engenharia reversa e testes de invasão foram filtrados. A Tencent também diz que especialistas de seus laboratórios Xuanwu e Keen realizaram auditorias red team — avaliações conduzidas para identificar riscos e vulnerabilidades. 12
São medidas relatadas pela própria empresa. Elas não resolvem, por si só, a questão mais ampla levantada por Yao: como administrar sistemas cujas capacidades científicas crescem e cujos usos benéficos podem se tornar mais difíceis de separar de aplicações prejudiciais. 8
12
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "Alerta da Tencent sobre IA e biologia coloca o Hy4 sob análise"?
Yao Shunyu afirma que modelos de IA podem se aproximar de um ponto em que suas capacidades biológicas permitam causar danos, como já pode ocorrer na cibersegurança.
Quais são os pontos-chave para validar primeiro?
Yao Shunyu afirma que modelos de IA podem se aproximar de um ponto em que suas capacidades biológicas permitam causar danos, como já pode ocorrer na cibersegurança. Lançado em 4 de novembro, o Hy4 tem 770 bilhões de parâmetros e ganhou recursos de compreensão visual, raciocínio e uso de computador.
O que devo fazer a seguir na prática?
A Tencent informou que o Hy4 obteve 30,4 de 100 em um teste de desenho de experimentos biológicos e descreveu medidas de segurança para cibersegurança.