Qwenの政治的偏りをめぐる検証、何が分かり何が未確認なのか

AlibabaのQwenは、企業のサービスにも使われているオープンウェイトのAIモデルです。CBS Newsによると、AirbnbやUberなどの米企業でも利用されています。モデルが話題を避けたり、特定の見方に沿って説明したりすれば、その傾向が組み込まれた製品やサービスの回答にも表れる可能性があります。10

一方、Hirundoの検証結果やCBS Newsの確認だけで、すべてのQwenが同じように答えると結論づけることはできません。また、Qwenを使う企業のデータがAlibabaや中国政府に渡ることが証明されたわけでもありません。10

Hirundoは何を調べたのか

サイバーセキュリティ企業のHirundoは、15分野にわたる500件の質問をQwenに投げかけたと説明しています。同社幹部がNewsmaxに語ったところでは、政治的に敏感な質問に対し、検閲、政治的立場に沿った説明、または政治的偏りが見られた割合は89.8％でした。11

これはHirundoが報告した検証結果であり、すべてのQwenのバージョンや質問、導入環境で同じ割合になると独立に再現・確認された数字ではありません。また、この数字は回答拒否だけを数えたものではなく、話題を避けること、特定の立場に沿った説明、偏りのある回答などをまとめたものです。11

報告された質問には、1989年の天安門事件や2019年の香港抗議活動に関するものが含まれていました。報道で紹介されたHirundoの調査結果には、出来事を認めない、あるいは確認しない回答があったとされています。CBS Newsも香港などの議論を呼ぶ話題について、Qwenの回答を取り上げました。1115

CBS Newsの確認で分かること

CBS NewsはQwenに独自に質問し、政治的に敏感な話題で懸念を招く回答があったと報じました。これはHirundoが指摘した傾向を示す別の事例ですが、あくまで個別の確認です。すべてのQwenのモデルや企業での使われ方が同じ結果になると示したものではありません。1015

ここで見るべきなのは、問題が明確な「回答拒否」だけとは限らないことです。モデルが話題を避けたり、政治的に偏った説明をしたり、事実と異なる回答を返したりする場合もあります。「答えられません」と言ったかどうかだけを調べても、こうした省略や偏りは見落とされる可能性があります。11

企業利用での懸念と、調査結果の限界

CBS Newsは、Qwenのダウンロード数が30億回を超え、AirbnbやUberなどの企業が利用していると報じました。10 顧客向け機能や社内ツールにAIモデルを組み込めば、その回答が利用者に届くことがあります。したがって、採用を検討する企業は、実際に使うモデルのバージョンと導入環境を対象に、用途に即した検証を行う必要があります。ただし、報告された政治的偏りの調査だけで、Qwenを使うすべての製品に同じ問題があると断定はできません。

政治的偏りと情報セキュリティも、分けて考える必要があります。米下院の委員会は、中国で開発されたAIモデルに関する国家安全保障・サイバーセキュリティ上のリスクについて調査を始めており、報道されたAirbnbのQwen利用も調査対象に含まれています。調査の実施やそこで示された懸念は、Qwenが情報漏えいを引き起こした証拠ではありません。

オープンウェイトのモデルは企業自身のインフラ上で動かせる場合があり、外部事業者にデータを送る方式に比べ、機微な情報を自社内で管理しやすくなることがあります。ただし、それだけでモデルの回答に含まれる偏りがなくなるわけではありません。実際のリスクは、個々の企業の構成や運用にも左右されます。

「重みの編集で偏りを除ける」という主張は検証が必要

Hirundoは、モデル内部の重みを編集してQwenの偏りを取り除く方法を見つけたと主張し、CBS Newsは「西洋化」したバージョンを公開する計画を報じました。10 ただし、これは技術的な対策についての同社の主張です。話題、モデルのバージョン、言語、実際の業務でのタスクを問わず安定して効果があると、独立に確認されたことを意味するわけではありません。

Qwenの導入を検討する組織にとっての実務的な教訓は、使う予定のモデルと環境を具体的に評価することです。政治的に敏感な質問だけでなく通常の業務上の質問も試し、重要な事実が省かれたり歪められたりしないかを確認する。同時に、データの流れやセキュリティ対策も別途点検する。報告された結果は慎重な検証を促す材料ですが、あらゆる利用環境での結論を出すものではありません。