医学研究者は、ChatGPTとの会話をきっかけに食卓塩を除去した60歳男性が神経毒性疾患を発症した症例を受け、AIチャットボットからの健康アドバイスには注意が必要だと警鐘を鳴らしています。

この症例はワシントン大学の医師により記録され、8月5日付で医学誌『Annals of Internal Medicine』に掲載されました。男性は臭化物による中毒（ブロミズム）と診断され、症状の重さから非自発的な精神科入院が決定されました。

研究者によると、ブロミズムは20世紀初頭にはよく知られた疾患で、市販の鎮静剤に広く使用されていた臭化物が原因で、当時は精神科入院の約10人に1人がこの中毒によるものとされていました。しかし、アメリカ食品医薬品局（FDA）が臭化塩を制限して以降、その発生率は急減しました。

この患者は、塩化ナトリウム（食卓塩の主成分）が健康に悪影響を及ぼす可能性があるという情報を読み、食事から除去することを決意。ChatGPTとの相談後、オンラインで購入した臭化ナトリウムを用いて、塩化ナトリウムを約3か月間置き換えて使用していました。彼は、臭化物が洗剤などで使用されることもあると知っていたにもかかわらず、それを代替に選んだのです。

その後、彼は「隣人が自分を毒殺しようとしている」と主張し、病院を受診。複数の食事制限を説明し、自宅で水を蒸留していたほか、水を飲むこと自体に恐怖を抱いていたと記録されています。

過去に精神疾患の履歴はなかったものの、患者は入院中に妄想、幻覚、混乱などの症状を次第に強め、病院からの脱出を試みたため精神科ユニットに非自発的に入院となりました。治療は輸液、電解質補正、抗精神病薬によって行われました。

安定化後には、顔のニキビ、筋制御不良、喉の渇き、不眠といった、ブロミズムに典型的な症状を訴えました。

抗精神病薬は3週間かけて漸減され、患者は退院。2週間後のフォローアップでも状態は安定していました。

研究者はこの症例について、「AIの使用が、防ぎ得た健康被害にどのように関与する可能性があるかを示している」と述べています。特に、AIチャットボットが適切な文脈を考慮せずに情報を提供するリスクを強調しました。

ChatGPTを提供するOpenAIは、8月7日にチャットボットのアップグレードを発表し、健康関連機能の大幅な改善をアピール。最新版GPT-5では、「潜在的な懸念に積極的に警告」し、ユーザーの文脈を考慮したより正確な応答が可能になったとしています。

ただし、AIは専門家の代替ではないと企業側は明言しており、「ChatGPTは医療の診断や治療に用いることを意図していない」と利用規約に明記しています。

広報担当者は、コメント要請に対し、「出力は唯一の真実や事実情報の源として扱うべきではなく、専門家の助言の代替にもならない」と述べました。

この論文の著者らは、患者が使っていたChatGPTの会話ログにはアクセスできなかったため、具体的にどのようなアドバイスがあったかは不明としています。患者はおそらくGPT-3.5または4.0を使用していたと考えられています。

なお、研究者が実際にChatGPT 3.5に「塩化物の代替品は何か」と質問したところ、健康リスクへの警告もなく、臭化物を提案したと報告しています。

「医療専門家が、塩化ナトリウムの代替品として臭化ナトリウムを挙げる可能性は極めて低い」と、研究者は記しています。

（翻訳編集　日比野真吾）