［１４日　トムソン・ロイター財団］ – ぴっちりとした伝統服を身にまとったインドの女優、ビキニ姿のバングラデシュの政治家、男性と一緒に写ったパキスタンの若い女性。

いすれも本物ではないが、生成人工知能（ＡＩ）が作り出したこれらの映像はあまりにリアルで、人びとの欲望や憎悪をかき立て、殺人につながることさえある。アジア各地で特に女性がその脅威にさらされている。

体の線がはっきり分かるような服を着た偽動画を広められたインド映画界（ボリウッド）のスター、ラシュミカ・マンダンナさんはＸ（旧ツイッター）への投稿で「われわれは社会全体で緊急にこの問題に取り組み、アイデンティティーを盗まれることで影響を受ける人が私以外に増えないようにする必要がある」と強く訴えた。

ボリウッドでは、カトリナ・カイフさん、アリア・バートさん、ディーピカ・パデュコネさんといった大物俳優もディープフェイクの標的にされている。

マンダンナさんは自身の偽動画について、「（ＡＩ）技術の悪用が進んでいるので、私自身だけでなく、誰もが大きな被害を受けやすくなっている」と話す。

これまではデジタル加工された女性の動画や画像を見つけられるとしても、それはインターネットの片隅に潜んでいるのが普通だった。ところが各種生成ＡＩツールの爆発的普及に伴い、そうした加工が簡単に低コストでできるようになっている。

そして複数の専門家によると、オンライン上に出回っているディープフェイク動画の９０％以上がポルノ関連で、大半は女性だ。

デジタルの諸権利に詳しい専門家によると、特にずっと以前から女性がオンライン上での嫌がらせにさらされながらもほとんど処罰が下されなかった保守色が強い社会では、厄介な事態になっている。

パキスタンでは先月、悲劇的な殺人事件に発展するケースもあった。１８歳の娘が男性と一緒にいる写真がネットに出回り、激高した父親と叔父が銃殺。これは女性の不貞行為により家族の尊厳が傷ついたことを理由とする、いわゆる「名誉殺人」だが、警察の調べでは写真は加工されたものだった。

ソーシャルメディア側もなかなか対応が追いつかない。

グーグル傘下のユーチューブと、フェイスブック、インスタグラム、ワッツアップを所有するメタ・プラットフォームズは規約を改定し、クリエーターや広告主にＡＩで生成したコンテンツにはそれと分かるようラベルを表示するよう義務付けている。

ただハーバード大学のＡＩ専門家、ルマン・チョードリ氏は、実際の対応はおおむね犠牲者の負担になっていると指摘。「残念なことに生成ＡＩはオンライン上でのハラスメントを意図したり、有害だったりするコンテンツ（の広がり）を加速させ、女性が真っ先に犠牲となっている」と述べ、誰もの身にも降りかかってきている問題である以上、アジア以外の世界も目を向けなければならないことを物語っていると強調した。

＜規制整備の状況＞

ディープフェイク拡散とともに、それらが嫌がらせや詐欺、性的脅迫などに悪用されることへの懸念も高まっている。

一方で規制を整備する動きがようやく見え始めた。

米国ではＡＩに関する大統領令でディープフェイクがもたらす危険性をカバー。欧州連合（ＥＵ）は、プロバイダーに透明性と情報開示の強化を求めるＡＩ規制法案を提示している。

米国や英国を含む１８カ国は先月、拘束力はないとはいえ、ディープフェイクを含めたＡＩの悪用から一般市民を守るための合意を打ち出した。

アジアでは中国がプロバイダーに、違法なディープフェイクを報告することなどを義務化。韓国は「公共の利益」を侵害するディープフェイクの流布を違法とみなして罰金ないし投獄で処罰する制度を取り入れた。

インドも新たな規制を設けて厳しい態度で臨もうとしている。

バイシュナウ電子・情報技術相は、ソーシャルメディア運営各社が問題と気づいてから３６時間以内にディープフェイクを削除しなければ、サードパーティーコンテンツに関する免責待遇を失うと警告した。

ただ、デジタル諸権利の擁護団体ＩＴフォー・チェンジのマラビカ・ラジュクマール氏は、事後的対応よりも、問題の最小化と防止に重点が置かれるべきだと批判する。

ラジュクマール氏によると、インド政府はプロバイダーとプラットフォーム運営企業にディープフェイクのクリエーターの身元開示を強制する可能性を示唆しているが、プライバシー保護と悪用防止のバランスを確保するのも重要な鍵だという。