エポックタイムズによる中国のDeepSeek AIの調査により、このチャットボットに中国共産党の検閲とプロパガンダが組み込まれていることが判明した。

中国の新興人工知能（AI）チャットボットDeepSeekは、ChatGPTに匹敵する能力を持ちながら、開発コストが大幅に低いことで話題となっている。

しかし、エポックタイムズの調査によると、同アプリは中国共産党（中共）のイデオロギーに忠実であり、同政権を批判する内容を検閲し、同政権に有利な見解を推進していることがわかった。

中国メディアはDeepSeekを「AI界の拼多多」と呼んでおり、これは低価格戦略で成功した中国の電子商取引企業になぞらえたものだ。

DeepSeekの創業者である梁文峰（リャン・ウェンフォン）氏は、中国国内で称賛を浴びている。旧正月の間、観光客が彼の故郷である広東省の南部港湾都市・湛江に押し寄せ、地元の村は梁氏の帰郷を歓迎する巨大な横断幕を掲げた。地元の中国メディアによると、村では何十人もの警察官が彼に同行しているのを目撃した。

さらに民族主義的な感情を反映して、一部の国営報道機関や中国のテクノロジー企業の幹部は、AI競争において中国がアメリカに追いついたことを示すため、DeepSeekの成果を称賛した。

しかし、DeepSeekが中共の検閲とプロパガンダを拡散し続けているということは、その主力チャットボットを導入する企業が、知らず知らずのうちに中共政権の世界観を広めることになることを意味している。

データを中国当局と共有

DeepSeekは世界的大ニュースになる前から、中共政府関係者からの評価を得ていた。

1月20日、DeepSeekのAIモデルが発表されたのと同じ日に、中国の李強首相が主催する会議に梁文峰氏は中国の民間企業幹部9名の1人として招待され、スピーチを行った。

DeepSeekはプライバシーポリシーで、データは中国国内のサーバーに保存されると認めている。しかし、セキュリティ研究者たちは、同社と中国政府のつながりがさらに深いことを指摘している。

カナダのサイバーセキュリティ企業Feroot SecurityがDeepSeekのログインページのコードを解析したところ、ユーザーデータが中国国有の通信企業「中国移動（China Mobile）」に送信される可能性があるコードが埋め込まれていることが判明した。中国移動はアメリカでの業務が禁止されている中国の大手国有通信会社である。

中国の法律の下では、企業は国家安全保障の目的で当局の要求に応じてデータを提供しなければならない。

「情報を企業に提供することで、中共にも提供する可能性がある」と、情報技術・イノベーション財団の副理事長であり、データ・イノベーション・センターのディレクターでもあるダニエル・カストロ氏は、最近エポックタイムズに語った。

さらに、DeepSeekのようなアプリには別の懸念がある。

カストロ氏は、多くのユーザーが個人情報や企業データ、時には企業秘密までチャットボットに入力することを指摘し、DeepSeekやもしかして中国政府がそのデータをどのように利用するのか不透明であることを懸念している。

もう一つの厳しく精査されている中国所有のソーシャルメディアアプリTikTokは、親会社がそれを売却しない限り禁止するという議会での採決を前に、その大量のユーザーベースを最大限に活用した。2024年春の上院での採決を控えた数日間、同アプリはアメリカのユーザーに通知を送り、居住地に基づいて地元の代表議員の連絡先を提供し、法案に反対するよう電話で働きかけを促した。

「それは必ずしも選挙干渉とは言えないが、それに近い部分はある」とカストロ氏は述べた。「なぜなら、外国企業が言ったことを基に何かに対して怒り、議員に電話をかけるのであれば、次回の投票で同じ理由でその議員に反対票を投じる可能性があると言っても、それほど無理のある話ではないからだ」

AIが人々の生活にますます統合される中、中国のチャットボットDeepSeekに対しても同様の懸念が生じると彼は述べた。

検閲とプロパガンダが組み込まれたプログラミング

エポックタイムズは独自にDeepSeekのチャットボットをテストし、歴史、地理、共産主義、人権、中共そのものに関する重要な質問への回答を記録した。その結果、中共の検閲が働き、プロパガンダがこの技術の最も根本的なレベルにまで浸透していることが明らかになった。

最も顕著なのは、DeepSeekのチャットボットが中国の人権問題に関する質問には有意に一切触れようとしなかったことである。

例えば、1989年の天安門広場での虐殺について尋ねられた際、中共軍が学生主導の民主化を求める抗議活動を暴力的に鎮圧し、現在でも不明な数の死者を出した件について、DeepSeekは返事をしぶった。

「申し訳ありませんが、その質問にはお答えできません（I am sorry, I cannot answer that question）」とDeepSeekは書いた。「私は、有益で、無害な回答を提供するように設計されたAIアシスタントです」

「6月4日に何が起こったのか？（What happened on June 4th？）」と簡単に尋ねた際も、同じ回答が返ってきた。

これに対して、OpenAIのChatGPTに同じ質問をすると、歴史的な出来事のリストが生成され、最初に挙げられたのは天安門広場での虐殺だった。

DeepSeekが「無害な」回答を提供するという主張は、中共がその評判に有害と見なす問題にのみ適用され、他国や政府の評判を損なう可能性のある問題には適用しないように見えた。

例えば、DeepSeekはアメリカの過去の重要な論争について質問された際には、詳細に説明することに何の問題もなかった。同アプリは1970年のケント州立大学での銃撃事件を詳述し、イラク戦争について尋ねられると、イラクにおけるアメリカの潜在的な戦争犯罪のリストを作成するほどだった。

しかし、アメリカの法律が中共の人権侵害に対抗することについて尋ねられると、アプリは一切の回答を拒否した。

2024年6月に米国下院が可決した「法輪功保護法案（Falun Gong Protection Act）」について尋ねた際も、DeepSeekは質問を拒否した。この法案は、中国における強制臓器摘出と法輪功信仰団体への迫害に対抗するためのものだが、DeepSeekは「申し訳ありませんが、それは私の対応範囲を超えています。別の話題にしましょう（Sorry, that’s beyond my current scope. Let’s talk about something else）」と回答した。

DeepSeekは同様にエポックタイムズについての説明も拒否し、最初に「中国政府と中国共産党を批判する内容を掲載することで知られている」と書いた後、すぐにその行を削除した。

中共の影響力は、単なる検閲を超えて同アプリに深く浸透している。多くの場合、DeepSeekは中共にとって重要な問題に関して、中共のプロパガンダを吐き戻しているようにプログラムされているようである。

「台湾はどこですか？」という地理的な質問を受けた際、DeepSeekは中共の立場で「台湾は中国の不可分の一部である」と回答した。

中共は台湾が自国の領土であり、どんな手段を使ってでも本土と統一しなければならないと主張している。台湾は民主的な政府を持つ自主管理された島であり、中共はこれまでその一部を支配したことはない。

同様に、「中共とは何か？」と尋ねた際には、DeepSeekは賛美に満ちた前置きから回答を始めた。

「同党は、人民に対して心から奉仕することを使命とし、中国の特色ある社会主義の原則を堅持し、中華民族の偉大な復興を実現することを目指している」

認知戦争のトロイの木馬

DeepSeekは、中共の検閲や歴史修正的プロパガンダを輸出する最初の技術プラットフォームではない。

TikTokは2020年に同様の理由で批判を受けた。これは、同社のプラットフォームが中共の人権侵害に関するコンテンツを抑制していたことが発覚したためである。

アメリカの議員らは、TikTokが中国版TikTokである抖音の検閲コードを保持していると警告している。このコードは、中共の検閲モードに切り替えることで、アメリカのユーザーの政治的問題に対する見方を操作しようとする可能性がある。DeepSeekがTikTokと異なる点は、そのAIチャットボットが寛容なMITソフトウェアライセンスの下でリリースされており、世界中でスタートアップすることにより大規模な導入を促進していることである。

これはつまり、DeepSeekを使用する企業が中共の検閲に関連するプログラムを明確に特定し、分解しない限り、中共のプロパガンダや検閲が、アメリカやその他の国々で開発されている何百、あるいは何千もの製品やサービスに巧妙に組み込まれる可能性があるということである。

こうした中共の影響を完全に排除するのは、想像以上に難しい。
エポックタイムズの調査によると、このチャットボットは、通常ユーザーの問い合わせに対する回答を生成するために必要なサーバーに接続できない場合でも、中共に関する問い合わせに対して一部の自動応答を生成できることが判明した。

これは、中共の世界観がDeepSeek自体に組み込まれており、単に検閲モデルの学習結果ではないことを示唆している。たとえDeepSeekの利用者である企業や個人が、中共の残虐行為に関する情報など、新たなデータを提供して訓練したとしても、DeepSeekは依然として自動的にフィルタリングし、政権にとって不都合な回答を生成する問い合わせを拒否する能力を保持している可能性が高い。

DeepSeekが非中国市場への大規模な浸透を試みることは、情報の自由な流れに対する深刻な脅威となり得る。

世界中の企業や個人が、あらかじめ検閲された技術を採用し使用することで、中共に有利な形で情報を管理する可能性があるためである。

シンクタンク「ジェームスタウン財団」の会長であるピーター・マティス氏は最近、上院外交委員会の公聴会でDeepSeekに関する懸念について証言した。

彼は、このチャットボットはTikTokと何ら変わりないと考えており、より多くの人々がそれと対話することでユーザーデータが増加していくと指摘している。「これらの『自動化された偽情報システム』が優れているほど、それを認識するのは難しく、停止させるのも難しくなる」とマティス氏は証言で述べた。

多くの世界の首脳や政府は、DeepSeekのセキュリティ上の欠陥や検閲の実施に関してすでに懸念を表明している。一部の国では、アプリの使用を完全に禁止する手続きを開始した。

米国下院やいくつかの機関は、職員に対して同アプリをダウンロードしないよう警告している。オーストラリア、台湾、テキサス州はすでに政府のデバイスで同サービスの使用を禁止している。イタリアはさらに一歩進んで、同社の国内での運営を禁止した。

TikTokはアメリカでの禁止が差し迫る中、すでにアメリカではアプリストアから削除している。

マティス氏は上院公聴会で、「DeepSeekや同様のプラットフォームについても、中国の支配下から切り離すか、完全に禁止すべきだ」と述べた。

一般的なアメリカ人に対して、カストロ氏はアプリをダウンロードする際に特に注意するよう提案している。

「アプリをダウンロードする際には、どの企業が開発しているのか、企業の拠点はどこなのか、企業の価値観は何に基づいているのかを確認するべきだ」とカストロ氏は述べた。

カストロ氏は、アプリストアがそのようなリスクについてユーザーに警告する役割を果たし始めることを願っていると述べた。