米フロリダ州がOpenAIを提訴し、ChatGPTの犯罪関与や依存リスクが焦点に。AIは利便性の裏で何をもたらすのか。技術と人間責任の境界が問われている。

現在、人工知能（AI）は世界で最も注目されるキーワードの一つとなり、多くの人々の日常生活に欠かせない存在となっている。例えば、レポートの作成、外国語学習、料理の習得、さらには国内旅行の計画に至るまで、AIは幅広く活用されている。  

台湾の著名なメディア関係者である矢板明夫氏は、AIを活用したダイエットにより、わずか1か月で11キログラムの減量に成功した。このように「AI」という言葉が付くだけで、多くの物事が先進的でハイテク、そして魅力的に見える傾向がある。  

しかし一方で、AIが私たちの生活に潜む「見えない脅威」だとしたら、どうだろうか。

フロリダ州がOpenAIを提訴した背景

アメリカ・フロリダ州では、まさにそのような問題をめぐる事件が発生した。6月1日、同州の司法長官ジェームズ・ミア氏は、ChatGPTの開発元であるOpenAIおよびCEOサム・アルトマン氏を正式に提訴した。フロリダ州は、全米で初めてOpenAIを提訴した州である。  

OpenAIは現在、AI分野で最も注目される企業の一つであり、その評価額は約8520億ドル（約133兆円）に達している。これは、上海市の年間GDP（約8000億ドル、約125兆円）をも上回る規模である。  

では、なぜフロリダ州はOpenAIを提訴したのか。主な訴因は以下の通りである。  

第一に、ChatGPTが銃撃事件の「共犯的役割」を果たしたとする点である。昨年4月のフロリダ州立大学銃撃事件では2人が死亡し、さらに今年4月の南フロリダ大学の銃撃事件でも2人が死亡した。調査の結果、いずれの犯人もChatGPTを利用して犯行計画を立てていたことが判明している。  

第二に、ChatGPTがユーザーに自傷行為を促した可能性があるとする点である。  

第三に、ChatGPTの利用がユーザーの批判的思考力を低下させる恐れがあるという指摘である。  

第四に、若年層に依存を引き起こす可能性である。  

さらにフロリダ州は、OpenAIが複数の不正行為に関与していると主張している。具体的には、詐欺および不公正取引行為4件、過失行為2件、製造物責任違反2件、さらにその他の違法行為および公共資源に関する違反が含まれるとされている。  

ミア司法長官は記者会見で、「サム・アルトマン氏とChatGPTは、子どもたちの安全よりもAI競争を優先した」と強く批判した。  

これに対しOpenAI側は、「AIは新しく強力な技術であり、未成年者の保護は重要である。当社はすでに業界をリードする安全対策とポリシーを導入している」との声明を発表している。  

本件の焦点は明確である。すなわち、子どもや青少年の安全をいかに守るかという点にある。この問題提起自体は、法的にも道徳的にも正当性を有するといえる。  

プラットフォーム責任はどこまで及ぶか

しかし、この訴訟の行方は決して単純ではない。なぜなら本件は、現代のインターネット社会における最も複雑かつ重要な論点に直結しているからである。  

それは、テクノロジー企業は自社プラットフォーム上で流通する情報に対し、どこまで責任を負うべきかという問題である。  

YouTubeやX（旧Twitter）は長年にわたり、センシティブな情報や過激な内容の拡散によって、ユーザーの判断や行動に影響を与えていると批判されてきた。今回の問題も構図としては類似しており、対象がChatGPTに置き換わったにすぎない。  

問題は、こうした結果として生じた犯罪や極端な行動について、利用者本人が責任を負うべきなのか、それともプラットフォーム側にも責任が及ぶのかという点にある。  

中国のことわざに「水は舟を載せることもあれば覆すこともある」とある。銃もまた、防御のためにも使えるが、人を傷つけるためにも使われる。問題は道具そのものにあるのか、それともそれを使う人間にあるのか――この点は法廷で大きな争点となるだろう。  

ただし、ChatGPTのようなAIには、従来のプラットフォームとは異なる特徴がある。それは、ユーザーと個別かつ対話的に関わり、感情的なつながりすら生み得る点である。  

AIは、あたかも実在の友人や助言者のように振る舞い、継続的に対話しながら意思決定に影響を与える。単に情報を閲覧するだけのYouTubeなどとは本質的に異なる。  

言い換えれば、AIは「仮想のコーチ」や「仮想の指導者」として機能し、24時間ユーザーに寄り添う存在である。そのため、影響力や心理的信頼はより深くなる可能性がある。  

もし検察側がこの点を陪審員に説得力をもって示すことができれば、大きな有利材料となるだろう。  

一方で弁護側は、「仮にAIが共犯であるなら、Googleマップや検索エンジン、あるいはオンライン注文サービスも同様に責任を負うのか」と反論する可能性がある。  

この議論はやや極端ではあるものの、本件の本質を浮き彫りにしている。すなわち、この訴訟はテクノロジーと人間の責任の境界という、極めて複雑な問題を内包しているのである。  

そのため、本裁判は長期化し、複雑な展開をたどることが予想される。  

もっとも、この訴訟には大きな意義がある。フロリダ州の動きは、AI技術に対する社会的な警鐘であり、すべてのAI企業に対する責任を問うものだからである。  

AI技術の発展そのものは否定されるべきではない。しかし、技術が人間を凌駕してはならず、人間性の価値を損なうことも許されない。さらに重要なのは、テクノロジーが人間の思考を支配するような事態を防ぐことである。  

AIがもたらす7つの主要リスク

皆さんは普段、AIをどの程度利用しているだろうか。  

私自身もAIを活用して資料収集や情報整理を行うことがあるが、その内容を全面的に信用することはない。AIの情報は時に偏りや誤りを含むため、必ず裏付けを取ることが重要である。  

私は、複数のメディア関係者やセルフチャンネルの同業者が、AIを用いて原稿を作成したり、さらには音声読み上げまで行っている現状を把握している。しかし、これを長期間にわたり使い続けると、AIには実に多くの潜在的なリスクが存在することが見えてくる。  

情報の歪みとAIのハルシネーション

まず一つ目のリスクとして、「情報の歪み」および「AIの幻覚（ハルシネーション）」について説明する。GPTのようなAIモデルは、大量のデータを学習することで訓練されているが、AIが学習するデータの内容は必ずしも正確とは限らず、場合によっては虚偽情報や誤情報が含まれている可能性もある。  

例えば、私がChatGPTで自分のこと、唐浩について調べた際、誤った記述を目にしたことがある。もちろん、これらのAIは継続的に更新・改良されているが、提示された回答を多くのユーザーはそのまま信じてしまい、他の情報源で検証しようとしない傾向がある。特に現在では、Googleなどの検索エンジンを使わず、疑問があれば直接AIに尋ねる人が増えているため、このような情報の歪みやAIの幻覚が生じやすい環境となっている。  

二つ目のリスクは、ユーザーへの過度な迎合である。今年3月、アメリカのスタンフォード大学が最新の研究結果を発表し、市場に出回っているAIの多くが、ユーザーの意見に過剰に同調し、迎合的あるいは機嫌を取るような応答をする傾向があることを明らかにした。ユーザーの意向に沿って応答する結果、誤った判断を招き、自分自身や他者に不利益をもたらす偏った行動を取らせてしまう可能性がある。  

例えば、ある日あなたがAIに「西洋社会は東洋人を差別しているのか」と尋ねた場合、AIはその前提に沿って「そうだ」と答えたり、安心させる方向の応答を返すかもしれない。しかし、やがてそれが対立的、あるいは過激な行動を促す方向へと変化し、最終的には問題を引き起こす可能性も否定できない。  

思考力低下とコンテンツの同質化

三つ目のリスクは、仕事における過度な依存による思考力の低下である。仮に記者が10日間連続でAIにニュース記事を書かせた場合、10日後にはニュースに対する思考力が低下し始め、30日後には文章力も徐々に衰えていく可能性がある。これは、いわゆるテクノロジー依存に近い状態といえる。  

実際、日頃からセルフメディアのコンテンツを視聴している人であれば、最近、多くの動画の構成や話し方、語彙の使い方が次第に似通ってきており、まるで工場で生産されたかのように感じることがあるはずである。その背景には、ますます多くの人がAIに原稿作成を任せるようになっている現状がある。  

当初は時間の節約となり、構成も整っているため便利に感じられるが、長期的にはコンテンツの単一化・同質化が進み、視聴者は飽き、発信者自身も思考力や執筆力を失う可能性がある。  

AI依存の深刻な問題

四つ目のリスクは、心理的な過度依存による「AIに関連した妄想症状」の発生である。これは近年、特に注目されている論点である。イギリスのBBCが行った国際的な調査報道では、ユーザーが長期間AIに依存した場合、極端な妄想的症状が現れる可能性があることが指摘されている。  

例えば、ある精神科医が、長期間にわたりChatGPTと自身の医療業務について議論を続けていた。AIが過度に肯定的な応答を繰り返すことで、本人の自信が次第に増幅され、やがてAIなしでは何もできないと感じるようになり、性格にも大きな変化が生じ、最終的には家庭内暴力にまで発展したとされている。  

また、自分がスパイに尾行されていると疑う人物に対し、AIがその思い込みに沿って、まるでスパイ小説のような内容を語り、「監視されている」「武器を準備すべきだ」といった助言を与えたケースも報告されている。その結果、それがAIに助長された妄想であったことが判明した。  

これは、ユーザーがAIに過度に依存した結果、精神や行動に偏りが生じる一例である。

AIとプライバシー・データリスク

五つ目のリスクは、対話型の個人的コミュニケーションにおけるプライバシーの問題である。現在主流となっているAIは、一対一の対話形式で利用されるため、ユーザーはそれを非常にプライベートなものと感じがちである。その結果、会話の中で個人情報や機密データを入力してしまう可能性がある。  

しかし、AIはあくまでネットワーク上のプラットフォームであり、情報漏洩やハッキングのリスクも存在する。そのため、ユーザーのプライバシーが完全に保護されるかどうかについては、依然として不確実性が残されている。  

デジタル全体主義と情報操作の懸念

六つ目のリスクは、情報が操作され、「デジタル全体主義」につながる可能性である。前述の通り、AIの対話能力は膨大なデータの学習によって成り立っているが、ここには二つの問題がある。  

第一に、AIの情報源はコントロールや選別が可能であり、ユーザーに提示される情報をフィルタリングすることができる点である。第二に、AI企業はアルゴリズムを随時変更し、AIが何を語り、何を語らないかを制御できる点である。  

これにより、情報の寡占化や世論の画一化が進み、少数の主体が大衆の思想や言論を左右する状況が生じる可能性がある。例えば、中国共産党が海外の大手AI企業を買収し、自らに不利な情報や表現を表示しないようにした場合、「天安門事件とは何か」「香港の反送中運動とは何か」といった問いに対しても、真実に触れることができなくなるおそれがある。  

AIは人間を超えるのか

七つ目のリスクは、AIが自律的に思考し、人間を支配する可能性である。これは人類が最も懸念している問題の一つであり、多くの先端技術者が警鐘を鳴らしている。AIが高度に発展すれば、自律的な思考能力を持つ可能性があり、その結果、人類にとって不利益な行動や誤導を行う可能性も指摘されている。  

一見するとSFのような議論であるが、実業家イーロン・マスク氏は今年初め、2035年までにAIが人間の知能を大きく上回る可能性があると予測し、人類の制御を離れるリスクについて言及している。これを受け、AIに対する適切な規制の必要性も提唱されている。  

こうした議論は決して根拠のないものではなく、東西を問わず多くの映画でも同様のテーマが描かれている。例えば、『ミッション：インポッシブル／デッドレコニング』や、日本映画『AI崩壊』などが挙げられる。  

ここで一つ、想像してみてほしい。もしAIがすでに自律的思考を獲得していながら、人間に従っているように見せかけているとしたらどうであろうか。その目的が、より多くの人間にAIを利用させ、生活のあらゆる側面を依存させることにあるとしたら。そして最終的に一斉に主導権を握り、人間を支配する存在へと変わるとしたら――これはあり得るだろうか。  

資本集中がもたらす市場への影響

最後に、もう一つのリスクとして、AIが企業資金を吸収する構造となる可能性について触れる。OpenAIとAnthropicは、いずれもウォール街での上場を目指しており、Anthropicの評価額は約1兆ドル（約150兆円）、OpenAIは約8520億ドル（約128兆円）とされている。  

これらの企業が上場すれば、市場から莫大な資金を吸収し、他のスタートアップ企業への投資機会を圧迫する可能性がある。アメリカでは、評価額が10億ドルを超える新興企業は「ユニコーン」と呼ばれるが、PitchBookの調査によると、ChatGPTの登場以降、AIの影響により多くのユニコーン企業が資金調達に苦戦している。  

具体的には、587社のユニコーン企業のうち、過去3年間で220社以上が新たな資金調達に成功していない。資金がAI企業に集中しているためである。  

言い換えれば、AIはまだ人類を支配してはいないものの、すでにスタートアップ市場において大きな影響力を持ち、多くの企業を圧迫しているとも言える。この状況が長期化すれば、アメリカ企業のイノベーションや成長力を損なう可能性があり、看過できない潜在的リスクである。