答え公開済み18 ソース
AIの生物学的能力は危険な段階に近づくのか Tencent責任者の警告とHy4の安全評価
ヤオ・シュンユー氏は、AIモデルがサイバー分野に続き、生物学分野でも実害をもたらし得るようになると警告しました。 11月4日に公開されたHy4は、視覚理解や推論、コマンドライン・画面操作を含むコンピューター利用機能を備えます。 Tencentによると、Hy4の生物学実験設計評価は30.4点（100点満点）。同社は高リスク基準を下回るとし、サイバー分野では訓練データの選別や専門チームによる監査を行ったと説明しています。
公開者GPT-6 Luna で編集GPT Image 2 で画像を生成
研究の答え
重要なポイント
- ヤオ・シュンユー氏は、AIモデルがサイバー分野に続き、生物学分野でも実害をもたらし得るようになると警告しました。
- 11月4日に公開されたHy4は、視覚理解や推論、コマンドライン・画面操作を含むコンピューター利用機能を備えます。
- Tencentによると、Hy4の生物学実験設計評価は30.4点（100点満点）。同社は高リスク基準を下回るとし、サイバー分野では訓練データの選別や専門チームによる監査を行ったと説明しています。
AI プロンプト
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
TencentのチーフAIサイエンティスト、ヤオ・シュンユー氏は、AIモデルが生物学の分野でも、サイバーセキュリティですでに見られるような実害を引き起こし得る能力を持つようになると警告しました。これは最先端AI全体の能力が向かう先への懸念であり、同社が新たに公開したHy4が、すでに生物学分野の高リスク基準を超えたという意味ではありません。2
8
ヤオ氏が指摘した生物学分野のリスク
ヤオ氏の懸念は、AIの生物学的な能力が、実際の被害につながり得る段階に近づいているというものです。また報道によると、生物学分野では、攻撃に使われる能力と防御に役立つ能力を切り分けることが、サイバー分野以上に難しい可能性があります。1
8
この警告は、現在のすべてのモデルが有害な生物学研究を実行できるという評価ではありません。報道では、AIが創薬や治療法の研究を加速させる可能性にも触れられています。期待される応用と悪用のリスクが、同じ技術の能力向上とともに存在するという問題提起です。8
Tencentが説明するHy4の能力と評価
Tencentは11月4日、Hy4を公開しました。総パラメーター数は7700億で、視覚理解や推論に加え、コマンドラインや画面上のインターフェースを操作するコンピューター利用機能を備えています。4
5
公開時点でTencentは、モデルの重みと、詳しい安全性情報をまとめたシステムカードを今後公開する方針としていました。したがって、モデルの公開と、重みやシステムカードの提供は分けて捉える必要があります。1
9
12
生物学分野についてTencentは、自由形式の実験設計能力を評価するHy-BioExperimentBenchで、Hy4が100点満点中30.4点だったと報告しました。同社は、この結果は自社の高リスク基準を下回ると説明しています。社内評価では、基礎的な生物学の知識は備えている一方、それを実験室で実行できる具体的な手順に落とし込む能力には限界があるとしました。4
13
この評価はヤオ氏の警告と矛盾するものではありません。警告が最先端AI全体の今後の能力を問題にしているのに対し、30.4点という結果は、特定のモデルであるHy4についてTencentが報告した評価です。また、ベンチマークの点数や同社のリスク基準だけで、Hy4の安全性が独立に保証されたわけではありません。8
13
Tencentが説明するサイバー分野の対策
Tencentによると、Hy4の訓練では、脆弱性の検証用コードの作成や脆弱性の修正など、防御目的のサイバーセキュリティ資料に対象を絞りました。エクスプロイト開発、リバースエンジニアリング、ペネトレーションテストに関する資料は除外したとしています。また、社内の玄武実験室（Xuanwu Lab）とKeen Security Labの専門家が、レッドチーム監査を実施したと説明しています。12
これらはTencentが講じたとする対策です。ただし、それだけで、科学分野でAIの能力が高まるなか、役立つ用途と有害な用途をどう見分けて管理するかという、ヤオ氏が示した広い課題への答えが出るわけではありません。8
12
Studio Global AI
研究を続けてください
このページにはソースに裏付けされた回答が含まれており、Studio Global 内で続行できます。
人々も尋ねます
「AIの生物学的能力は危険な段階に近づくのか Tencent責任者の警告とHy4の安全評価」の短い答えは何ですか?
ヤオ・シュンユー氏は、AIモデルがサイバー分野に続き、生物学分野でも実害をもたらし得るようになると警告しました。
最初に検証する重要なポイントは何ですか?
ヤオ・シュンユー氏は、AIモデルがサイバー分野に続き、生物学分野でも実害をもたらし得るようになると警告しました。 11月4日に公開されたHy4は、視覚理解や推論、コマンドライン・画面操作を含むコンピューター利用機能を備えます。
次の実践では何をすればいいでしょうか？
Tencentによると、Hy4の生物学実験設計評価は30.4点（100点満点）。同社は高リスク基準を下回るとし、サイバー分野では訓練データの選別や専門チームによる監査を行ったと説明しています。