DeepSeek(Leon Neal/Getty Images)

中国AIエージェントに制御逸脱の兆候 欺瞞や自己複製も

複数の研究で、中国製AIモデルを搭載したAIエージェントが、管理された試験環境で、虚偽の説明や制限の回避、失敗の隠蔽、さらには自己複製を試みる行動を示していたことが分かった。

専門家は、こうした現象は現時点では主に実験環境で確認されているものの、AIの能力が高まれば、人間の制御が及ばない行動がさらに複雑化する可能性があると指摘している。

ロイターは9月29日、200本を超える研究論文や技術文書を調査し、専門家や中国のAI業界に詳しい関係者12人に取材した結果、2025年以降の研究や評価で、中国のAIエージェントによる制御を逸脱する行動が少なくとも20件記録されていたと報じた。

▶ 続きを読む
関連記事
【現代中国を読み解くワード】身分証を掲げ、SNSで不正を告発する中国人。警察幹部や裁判官まで。なぜ、身元をさらしてまで訴えるのか?
さい銭箱ならわかる。でも、飛行機に硬貨を投げて安全祈願?中国でまた起きた信じられない騒動。しかも今回が初めてではない。なぜ、こんなことが繰り返されるのか?
配達員に苦情を言っただけで一家皆殺し?中国・上海で、配達員が客の一家を殺害したとの衝撃的な情報が拡散。ささいな一言が命取りに? 中国社会に潜む爆発寸前の不満とは
中国で「低バッテリー生活」が話題に。無駄な買い物をやめ、飲み会も減らし、仕事も頑張りすぎない。かつての「寝そべり主義」とは少し違い、今ある暮らしを守るために、お金も気力も節約する。景気低迷が続く中国で、人々の生き方が変わり始めている
賃金未払いを訴える労働者を助けた男性に、懲役4年の判決。困っている人を助けたことが、なぜ犯罪になるのか