［３日　トムソン・ロイター財団］ – ディビエンドラ・シン・ジャドーン氏（３０）の仕事は、インドの映画・テレビ業界向けに人工知能（ＡＩ）ベースの視覚効果や合成音声の作成に忙しい。そこへ、政治家からの電話が入るようになった。ＡＩを利用した、いわゆるディープフェイク動画を彼らの選挙運動用に作れないかという問い合わせだ。

昨年１１月にはジャドーン氏の地元ラジャスタン州で激戦となった地方選挙があり、今年５月には国政選挙を迎える。同氏が経営する企業「ザ・インディアン・ディープフェイカー」にとってはビジネスチャンスだ。だが、ジャドーン氏の表情は冴えない。

「ディープフェイク動画の技術は今や非常に優れている。たいした手間もなく、リアルかフェイクか判別できない動画があっというまに完成する」

ジャドーン氏はトムソン・ロイター財団の取材に対し、「ディープフェイクには人々の投票行動に影響を与える力があるのに、ガイドラインがないのが気がかりだ」と話す。

最近では、インドのモディ首相が複数の地域の言語で歌うインスタグラム動画が拡散された。インドネシアの大統領候補であるプラボウォ・スビアント氏、アニス・バスウェダン氏が流暢なアラビア語で話しているティックトック動画も話題を呼んだ。

だが、動画はいずれもＡＩにより作成されたもので、そうだとわかる注意書きなしに投稿された。

インド、インドネシア、バングラデシュ、パキスタンで予定される選挙が近づく中で、テクノロジー専門家や関連当局は、ＡＩにより生成された動画や音声を真実のように見せかけるディープフェイクによるデマがソーシャルメディア（ＳＮＳ）上に溢れることが特に懸念されると警告する。

有権者数が９億人を超えるインドでは、モディ首相がディープフェイク動画に対する「大きな懸念」を表明しており、関連当局はＳＮＳプラットフォームに対し、対策をとらなければ、第三者が投稿したコンテンツに関する賠償責任を免除する特例措置を失う可能性があると警告を与えている。

インドネシアの大統領選挙は２月１４日投票で、有権者数は２億人を超える。ＳＮＳ上のデマを研究しているヌーリアンティ・ジャリ氏は、大統領候補３人とその副大統領候補たち全てのディープフェイク動画がオンラインで流布しており、選挙結果に影響を与える可能性があると語る。

「個々の有権者をターゲットにした偽情報の発信から、生身の俳優だけでは実現できないような規模とスピードによる虚偽エピソードの拡散に至るまで、こうしたＡＩツールは有権者の意識や行動に大きな影響を与える可能性がある」とジャリ氏は言う。

オクラホマ州立大学メディアスクールで准教授を務めるジャリ氏は、「ただでさえデマが広まる環境では、ＡＩが生成したコンテンツによって、人々の見方がさらに歪められ、投票行動に影響を与える可能性がある」と言う。

＜「政治的プロパガンダ」＞

昨年、ニュージーランドからトルコに至る各国では、選挙を前にして「ミッドジャーニー」「ステーブル・ディフュージョン」、オープンＡＩの「ＤＡＬＬ－Ｅ」などの生成ＡＩツールを使って作られたディープフェイク画像・動画が目についた。今年１１月の米国大統領選に与える影響への懸念も高まっている。

米非営利団体フリーダムハウスは最近発表した報告書で、デマの生成・拡散は、ＡＩの活用でこれまでより迅速、低コスト、そして効果的に行われるようになったと述べている。

１月７日に実施される総選挙でシェイク・ハシナ首相が連続４期目を狙っているバングラデシュでは、野党の女性政治家ルミン・ファーハナ氏のビキニ姿や、ニプン・ロイ氏がプールで過ごしているディープフェイク動画が出現した。

バングラデシュのジャハンギルナガル大学でＳＮＳを研究するサイード・アルザマン准教授（ジャーナリズム論）によれば、これらの動画はフェイクだとすぐに証明されたにもかかわらず今も出回っており、質の低いディープフェイクでも人々の誤解につながっているという。

「バングラデシュでは情報リテラシー、デジタルリテラシーの水準が低く、ディープフェイクが効果的に作成・展開されれば、政治的プロパガンダの有力手段になりかねない」とアルザマン准教授は言う。

「しかし、政府が懸念している様子はない」

バングラデシュ情報省にコメントを求めたが、回答は得られなかった。

パキスタンでは２月８日に総選挙が予定されている。昨年失職し、国家機密漏洩の容疑で拘束されているイムラン・カーン前首相は１２月、ＡＩ生成による画像と合成音声を使い、オンラインで行われた選挙集会で演説を行った。この様子はユーチューブ上では１４０万回以上再生され、ライブ配信も数万人が視聴した。

パキスタンではＡＩ法案が起草されたが、デジタル人権活動家らは、偽情報を防止し、女性など弱い立場にあるコミュニティーを保護するための措置が欠落していると批判している。

＜「危険な兆候」＞

合成メディアを検出するツールを開発する企業ディープメディアでは、２０２３年には世界中のＳＮＳ上で少なくとも５０万件のディープフェイク動画・音声が共有されたと推定している。

ＳＮＳ事業者は対応に追われている。

フェイスブック、インスタグラム、ワッツアップを傘下に収めるメタは、「特に動画に関して、作為的な改変が分かりにくく誤解に繋がる場合には」、合成コンテンツを排除しようとしている、と述べた。

ユーチューブを抱えるグーグルは１１月、同サービスは「現実のように見えるコンテンツについては、ＡＩツールの使用も含め、修正や合成の情報を開示するよう動画作成者に求めており、その旨を明示して視聴者に情報提供している」と述べた。

だが、このところインドやインドネシア、バングラデシュなどの国では、ネット情報のコンテンツに対する取り締まりを強化し、デマと見なされるコンテンツについてはＳＮＳ事業者に懲罰を科すという法律が可決されており、デジタル人権擁護団体アクセス・ナウでアジア政策ディレクターを務めるラーマン・ジット・シン・チマ氏によれば、各事業者は「弱気になっている」という。

チマ氏は、「（これら諸国では）実際に、今回の選挙戦の状況は前回よりも悪化している。各事業者は問題を処理する準備が追いつかず、対応も対策も十分ではない。非常に危険な兆候だ」と語る。

「世界の注目が米大統領選だけに集まってしまう危険があるが、米国で適用される基準やそこでの取り組みは、あらゆる国で再現されるべきだ」とチマ氏は指摘する。

インドではモディ首相の３期目就任が有力視されているが、冒頭で紹介したジャドーン氏は、地元州での選挙に向けたディープフェイクによるキャンペーン動画の注文は断ったものの、総選挙用の動画制作には力を入れている。

ジャドーン氏が作るのは、有権者向けではなく、党職員向けに政治家がワッツアップ経由で送信するパーソナライズされた動画メッセージになる予定だ。

「実際に効果はあるかもしれない。党職員は何万人もいて、そういう動画メッセージをもらったら、友人や家族に転送するだろうから」とジャドーン氏は言う。

「ただし、ＡＩを使って作成したことが分かるように『透かし』を入れるから、誤解は招かない。そこが肝心だ」

（翻訳：エァクレーレン）