AIが生成した精度が非常に高いディープフェイクは、「選挙への干渉」を助長する可能性があるとの研究結果を発表した。

データ科学とAIに関する英国立研究機関アラン・チューリング研究所の新興技術・セキュリティセンター（CETaS）は先月29日、英国情報通信庁と選挙管理委員会に対し、今後、選挙のAI使用について対処するよう警告を発した。

英リシ・スナク首相、英労働党のキア・スターマー党首、ロンドンのサディク・カーン市長など、多くの政治家がAIが作り出すフェイクの罠にはまる可能性がある。

「AI音声クローン」の選挙への魔の手

英総選挙が7月4日に迫る中、新興技術・セキュリティセンター（CETaS）は「選挙の安全保障や選挙法に大きな変更を加える時間は非常に限られているが、AIを利用した選挙への脅威に対する短期的な耐性を強化するため、まだ多くの対応が必要だ」と述べ、公正な選挙対策が急務であると付け加えた。

状況次第で、AIが生成した音声クローンは、政治家の候補者が物議を醸すような発言をしたり、候補者が反感を買うような言動を描写する偽の画像や動画を作成することもできるほか、選挙戦から撤退するふりをしたり、他の候補者の推薦もできる。

極端なシナリオでは、「カスタマイズされたAIのマルウェア」によって投票システムを操作したり、投票を誤って報告したりする可能性があるという。 しかし、イギリスは「紙ベースの投票と人による開票が行われているため、アメリカなどと比較して、この種の脅威と縁がないかもしれない」との見方を示した。

AIが生成した多数のディープフェイクを精査したところ、選挙結果を左右するほどの影響力はなかったという。

アルゼンチンやインドネシア、ポーランド、スロバキア、台湾ですでに実施された選挙では、ディープフェイクが横行した後でも、世論調査のデータで勝利すると予想した政治家候補が当選した。

ディープフェイクへの厳格な規制

しかし、新興技術・セキュリティセンター（CETaS）は「明確な指針がない」と警告するとともに、より一層の強化規制を求めている。

各政党に対し、選挙運動にAIをどのように利用すべきかを定めた自主的な合意を求め、AIが作成した選挙用の資料にその旨を明記するよう推奨している。

アラン・チューリング研究所のリサーチ・アソシエイトであるサム・ストックウェル氏は「総選挙を数週間後に控え、政党はすでに選挙運動で忙殺されている真っ最中だ」が、「今のところ、AIによるフェイクあるいは誤解を招くような情報への対策について、明確な指針や期待もない」と指摘。

「だからこそ、手遅れになる前に規制当局が迅速に行動することが重要である」と強調した。

新興技術・セキュリティセンターのディレクター、アレクサンダー・バブタ氏は、「我々が直面している脅威を受け、選挙を強靭なものにしなければならない」と述べている。

「規制当局は、国民が事実と虚構を区別し、有権者が民主的プロセスへの信頼を失わないようにするために、もっとできることがある」と語った。

ランサムウェアの脅威

英国家サイバーセキュリティセンター（NCSC）は、ランサムウェアなどの脅威の深刻性について指摘している。

ロシアやイランを拠点とするアクターが、政治家やジャーナリスト、活動家、その他のグループに対して、スピアフィッシング・キャンペーン（電子メールを通じて機密情報を盗み出そうとする行為）を行っていると警告した。

中共の関連グループが、中共に批判的な英議員の電子メールアカウントに対して、情報収集などオンライン上の偵察活動を行っているとの声が出ており、3月に英国家サイバーセキュリティセンターは「高い確実性がある」と評価し、警鐘を鳴らした。英政府は、情報漏洩した議員はいなかったと発表している。

5月23日、選挙へのサイバーセキュリティ・リスクを探る議会のブリーフィング・ペーパーでは、「ランサムウェアによる攻撃がイギリスの選挙や民主的プロセスに直接影響を与えたという証拠は報告されていない」としている。