写真を撮れば、植物や虫の名前まで瞬時に教えてくれるAI。便利だからこそ、その答えをつい信じたくなる。だが、命に関わる判断まで任せて大丈夫なのか。

中国浙江省で、男性が自宅近くに生えていた野生キノコを採った。食べる前に写真を撮り、AIに判定させたところ、答えは「無毒」。男性は安心して調理し、口にした。

ところが数時間後、激しい下痢や全身の脱力に襲われ、病院へ。急性腎不全や、筋肉が壊れる「横紋筋融解症」を起こし、ICU（集中治療室）に運ばれた。幸い、治療を受けて回復したという。

同様の事故はこれだけではない。6月にも湖北省で、一家3人がAIの「無毒」という判定を信じて野生キノコを食べ、全員が中毒に。9歳の子どもは急性肝不全を起こし、一時は命が危ぶまれた。

考えてみれば、AIの間違いは今に始まったことではない。

アメリカでは、AIが作り出した架空の本が新聞のおすすめ読書リストに掲載されたことがある。

また、AIが示した存在しない判例を弁護士が本物と信じ、裁判所に提出してしまったケースもあった。さらに、AIが実在しない学術論文を、もっともらしい参考文献として挙げることも確認されている。

本も、判例も、論文も。存在しないものまで堂々と「あります！」。知らないなら知らないと言ってくれればいいのに、その自信満々ぶりが、かえって怖い。

それでも人間は、AIが迷いなく答えると、つい信じてしまう。

情報の間違いなら訂正できる。しかし、毒キノコとなれば話は別だ。命に関わる間違いは、取り返しがつかないこともある。

結論はひとつ。AIは便利。でも、過信は禁物だ。