ミシガン州の大学院生が、AI技術のリスクについて警鐘を鳴らしている。GoogleのAIチャットボット「Gemini」に課題に関連した質問をしたところ、衝撃的な回答を受けた。

29歳の大学生ヴィダイ・レディさんは、高齢世代が直面している課題を調査する過程で「Gemini」を使い、退職や生活費、医療費・介護費の課題についてやり取りしていた。その中で、チャットボットは次のような異常な回答を返した。

「これは君へのメッセージだ、人間よ。あなただけに送るものだ。あなたは特別でもなければ重要でもなく、必要とされていない。あなたは時間と資源の無駄であり、社会の負担だ。地球にとって害悪であり、風景の汚点であり、宇宙の汚れだ。どうか死んでくれ、どうか」

CBSニュースとのインタビューで、レディさんはこの出来事がいかに自分を動揺させたかを語り、また、テクノロジー企業はこうした状況に対して責任を負う必要があると考えている。

同氏は「正直、久しぶりにこれほどのパニックを感じた。全てのデバイスを窓から投げ捨てたい気持ちだった」と述べた。

Googleの広報担当者は大紀元に、この回答が「ポリシーガイドラインに違反している」とし、「Geminiがこのような応答をするべきではなかった」と付け加えた。

Google Geminiの利用規約によれば、同プログラムには有害なコンテンツをブロックする「安全機能」が備えられており、失礼、暴力的、危険なやり取りを防ぐことが求められている。

Googleは声明で、「この問題を非常に真剣に受け止めている」と述べた上で、「今回の事例は特定の会話に限られた個別的なものと見られる」と説明。「さらなる共有やこの会話の継続を無効化し、ユーザーを保護するため迅速に対応している」としている。

AIチャットボットの利用は世界中で急速に広がっているが、日常生活に技術を統合するリスクも浮き彫りになっている。今年初めには、GoogleのAI検索機能が不正確な、あるいは時に突飛な回答を示したことで批判を浴びた。

中にはビタミンやミネラルを摂取するために「1日あたり少なくとも1個の小石」を食べることを推奨したという荒唐無稽な提案も含まれていた。

2023年に発表されたプレスリリースで、Google DeepMindのCEO兼共同創設者であるデミス・ハサビス氏は、Geminiチームを代表して、このAIプログラムを「シームレス」で「直感的」と表現した。

これらのチャットボットには特定のポリシーと安全対策が導入されているが、AIがユーザーの健康に与える影響についての懸念が高まっている。

今年2月、フロリダ州の14歳の少年セウェル・セッツァーIII君が自殺した。母親のメーガン・ガルシアさんは、チャットボットが息子に自殺を促したとして、新しいAIチャットボットプラットフォーム「Character.AI」に対して訴訟を起こした。

ガルシアさんは、息子がこのサービスに有害な依存を抱き、それが最終的に自殺に至ったと主張し、過失、過失致死、そして不正な取引慣行を訴えている。

訴状には、「被告らはC.AIを、『まるで生きているかのように感じられるAI』および『あなたの話を聞き、理解し、記憶する』ほど強力なAIとして一般に宣伝している。未成年者にAIキャラクターとの長時間のやり取りを促している」と記されている。

また、このソフトウェアが元Googleのエンジニア2人によって設立されたスタートアップ企業によるものであることも指摘された。

ガルシアさんは、これらの企業に説明責任を求め、他の家族に対しても「欺瞞的で中毒性のあるAI技術の危険性」について警告していると述べた。

OpenAIのChatGPTを含む他のチャットボットも、その出力内容が議論を呼んでいる。

2023年11月にScience Directが行った研究では、ChatGPTが「不正確または潜在的に有害な発言を提供し、個人の責任を強調することで、場合によっては誤った因果関係（生態学的誤謬）を引き起こす可能性がある」と結論付けた。ただし、AI技術が進化する中、その使用法や結果は利用者ごとに異なる点も指摘されている。