フランス司法当局は11月4日、中国企業が運営する動画共有アプリ「TikTok」に対し刑事捜査を開始したと発表した。捜査の焦点は、同社のアルゴリズムが青少年の自殺傾向を助長している可能性にある。今回の措置は、TikTokの推薦システムが未成年者の心理に深刻な影響を及ぼしていると指摘したフランス国会の報告を受けて実施したものである。

パリ地検のロール・ベクオー（Laure Beccuau）検察官は、捜査は国会の特別委員会の勧告に基づいて開始したもので、TikTokがアルゴリズムにより配信する内容によって青少年の生命を危険にさらしているかどうかを確認することが目的だと説明した。

フランス国会の「ソーシャルメディアの影響と心理健康に関する特別委員会」のフランソワ・ジョリヴェ（François Jolivet）委員長は、9月11日に最終報告を公表した際、「TikTokの設計は利用者の健康と生命を故意に損なうものだと批判した」

問題視されたTikTokのアルゴリズムとは

報告によると、同アプリのアルゴリズムは高度に個人化された推奨を行い、青少年を長時間にわたり自傷や自殺に関連するコンテンツに没頭させる構造を持つという。ジョリヴェ氏は、これは偶発的な問題ではなく、プラットフォームの運用構造そのものに起因する「構造的リスク」だと強調し、委員会は全会一致で報告書を検察に送付し刑事捜査の開始を求めた。

同委員会はこれに先立ち、TikTokが青少年の心理健康に与える影響に関して独自の調査を実施していた。その発端となったのは、2024年に7家族がTikTokを相手取って提訴した事件である。訴えでは、TikTokが自傷や自殺を助長する内容を推奨し、子供たちが命を絶つ結果を招いたと主張している。

報告書は、TikTokが中国企業バイトダンス（ByteDance）の所有下にあり、コンテンツ審査が不十分で、未成年でも容易に利用できるうえ、高度なアルゴリズムによって心理的に脆弱な利用者を短期間で「自傷・自殺関連コンテンツの無限ループ」に陥らせる危険があると警告している。

パリ地検によると、本件は警察のサイバー犯罪部門に引き継がれた。捜査対象となる容疑には「自殺方法の宣伝を行うプラットフォームの提供」が含まれており、有罪が確定した場合は最長3年の禁錮刑および罰金（約54万円）が科される可能性がある。

TikTok側の反論

TikTokの広報担当者はメールでの回答で、「これらの指摘を断固として否定する」と表明し、積極的に弁護していく姿勢を示した。同社によると、プラットフォーム上には50を超える青少年保護機能が備わっており、違反動画の約9割は閲覧前に削除されるという。

TikTokの親会社であるバイトダンスは、他国でも同様の法的問題に直面している。アメリカでは同社のアルゴリズムが青少年の不安やメンタルヘルス悪化を助長しているとして、複数の訴訟が提起されており、国際的な関心が高まっている。

国会や監督当局もたびたび警鐘

フランス国会の委員会委員長は9月11日、TikTokが「利用者の健康と生命を意図的に危険にさらしている」と非難し、司法当局に正式に案件を移送した。これに対しTikTokは、報告書は「極めて誤解を招く内容で、業界全体の問題を当社に押し付けている」と反論した。

検察は、国会報告書に加え、2023年の上院調査報告書も参考にしている。同報告では、TikTokに関して言論の自由の制約、データ収集の問題、アルゴリズムの偏りといったリスクを指摘していた。また、国際人権団体アムネスティ・インターナショナルの2023年報告書も、TikTokのアルゴリズムが中毒性を持ち、青少年の自傷行為を誘発する可能性があると警告している。

さらに、フランス国家外国デジタル干渉対策機関「Viginum」は今年2月の報告書で、TikTokのコンテンツ推奨システムが世論操作に利用されるおそれがあり、とりわけ選挙期間中に公共の意見形成へ影響を及ぼす危険があると指摘した。同機関は国外からのデジタル干渉を監視する役割を担い、フランス政府が推進するネットワーク防衛と情報操作対策を担う中核機関である。

今回の刑事捜査は、フランスがソーシャルメディア監督を強化するうえで重要な一歩とみられている。欧州連合（EU）も近年、「デジタルサービス法（DSA）」を推進し、大規模プラットフォームに対してアルゴリズムの透明性向上と、心理的被害や情報操作の防止を義務付けている。