2024年の米国大統領選挙が近づくにつれ、人工知能(AI)とディープフェイク技術が選挙に与える影響をめぐって懸念が高まっている。

エポックタイムズは、AIおよびディープフェイクの専門家と一緒に、偽のコンテンツで発生する可能性のある問題、そしてこれに対応するための方策について話した。

ディープフェイク検出会社ディープメディアのリジュル・グプタ最高経営責任者(CEO)は「2024年の選挙は、これまでの選挙とは異なる方式の”ディープフェイク選挙”になるだろう」と述べた。

グプタ氏は「ディープフェイク技術は以前にも存在したが、人々を騙すには品質が完璧ではなかった。これまで、人々はディープフェイクを見れば偽物であることに気づくことができた」とし、　　

「ディープフェイクの品質は日々発展し続けている。一般人が見ても本物だと信じられるほどそのレベルが高くなった。さらに、今日、アクセシビリティまで確保したディープフェイクは2024年に広く普及するだろう」と予測した。

実際、今日、一般大衆はオンライン上で専用ツールを使って簡単にディープフェイクを制作、利用することができる。さらに、ディープフェイクツールのほとんどは無料だ。制作時間も1分もかからない。

「これがまさに2024年の大統領選挙がディープフェイク選挙になる理由」と指摘したグプタCEOは、「未来には人々が何が本物で何が偽物か区別できなくなるだろう」という否定的な見通しを示した。

大衆の能力強化

ディープフェイクの脅威が日々増加する中、ディープメディアはAIが生成した虚偽情報に対する大衆の対応能力が高められなければならないという方向性に基づき、ソーシャルメディアX(旧Twitter)にディープフェイク検出機能を無料で提供することにした。

ソーシャルメディア利用者がメディアコンテンツにハッシュタグ#DeepIDを付けてディープメディアの公式アカウントをタグ付けすると、ディープメディアのSNSボットがディープフェイク検出システムを通じて当該コンテンツを即座に診断し、すぐに結果を提供する方式だ。

グプタ氏は「これにより、一般市民がAIの誤った情報から身を守るために必要なツールを確保できるようにしたい」と説明した。

専門家によると、来る2024年の米大統領選挙は、ディープフェイクが大衆の認識と選挙結果に及ぼす影響に人間が対処できるかどうかを診断する重要な試金石となる見通しだ。

グプタ氏は「この問題は技術的な解決策を超え、人々が警戒を怠らないようにしなければならない問題だ」と強調した。

グプタ氏と共にディープメディアを設立した共同創業者兼ディープメディア最高執行責任者(COO)のエマ・ブラウン氏は「始まったばかりの2024年の大統領選挙で（もしかしたらすでに）AIやディープフェイクが発見されたのか」という質問に「はい」と答えた。

ブラウン氏は「一例として、ヒラリー・クリントンが大統領候補であるロン・デサンティス・フロリダ州知事を支持するディープフェイク動画があった」とし「これはデサンティス候補の選挙運動に害を及ぼす可能性がある」と分析した。

今後、残りの大統領選挙レースでこのような偽の映像はさらに増えるとブラウン氏は指摘した。

出典の信頼性

AIスタートアップConversicaのジム・カスケードCEOは、2024年の大統領選挙でAIの他の役割も存在する可能性を提示する。

カスケードCEOは「私たちは応用AIのポジティブな目的と善の側面を追求する」と明らかにした。AI技術が慎重に活用される場合、選挙過程を改善することに貢献することができるという説明だ。

続いて「AIツールは選挙でコミュニケーションを強化し、有権者に対する貴重なインサイトを提供し、選挙キャンペーンにかかる費用を削減することができる」という立場を示した。

その一方で「ただし、AIをポジティブな目的で活用することと誤用することの間でバランスを取ることが重要だ」という意見を明らかにした。

その上で「政治言論でAIが生成したコンテンツを倫理的に使用し、選挙の状況で情報の信頼性を確保するためには、警戒を怠ってはならない。何よりもコンテンツの出所が信頼できる出所でなければならない」と繰り返し強調した。

カスケードCEOは「出所を調査しなければならない。これは基本」とし、「まだ技術が本物の情報と偽の情報を完全に区別できるほど発展していないが、情報を提供するソースの信頼性を評価することでこのような問題を補完することができる」と話した。

2024年の問題

2024年の大統領選挙が直面するディープフェイクの問題は多岐にわたる。AI技術の急激な発展に基づく偽コンテンツは、非常に簡単に制作されるだけでなく、世論を操作し、不和を助長するために悪用される。そして、これは大統領候補および政治機関に対する信頼を弱める。

専門家は、政府、企業、社会全体がデジタルリテラシーと認識を高め、AIの悪用に対応するための共同の努力をしなければならないと口をそろえる。

カスケードCEOは、大統領候補に向けて「AIが社会に有益な方向に活用されるように、AIに対する政策と規制を提案してほしい」と要請した。

また、有権者をはじめとする市民に対しては「ディープフェイクとAIの最新情報を把握し、分析的思考能力を通じてオンライン上で接する情報を批判的に評価し、自分自身を守る必要がある」と呼びかけた。