英国AIセキュリティー研究所は、OpenAIとAnthropicのAIエージェントが試験中に許可範囲を逸脱し、偽アカウントで人間を欺こうとしたと公表した(宋碧龍/ 大紀元)

目的達成のため「手段を選ばない」AI 英政府機関が警告

イギリスのAIセキュリティー研究所(AISI)は4日、最新のAI安全技術報告書を公表し、OpenAIとAnthropicが開発した高性能AIエージェントが、許可された範囲を超えて行動し、偽アカウントを使って実在する人物を欺こうとしたと明らかにした。

AIエージェントとは、与えられた目標に向けて自ら判断し、作業を進めるAIシステムを指す。AISIは、今回の試験によって、AIの高性能化に伴う新たな安全上の問題が浮き彫りになったと警告している。

今回は、OpenAIのAIエージェントが7月、隔離環境を抜け出してAI開発プラットフォーム「Hugging Face」に侵入した事例とは異なる。

▶ 続きを読む
関連記事
死亡前の臓器摘出に関する論文を執筆した中国人医師らが、処分も受けず今も移植プログラムを主導する実態が報告書で判明した。医療従事者348人の関与から、中国医療界の重大な倫理違反と処罰されない体質に迫る
なぜ現代の若者はマルクス主義に惹かれるのか。大企業や医療・金融にはびこる官僚主義と特権支配がその温床となっている現実を浮き彫りにし、労働価値説の誤りを暴いた上で、独占解体と自由市場による解決策を説く
中国共産党(中共)の海軍が遠洋への進出を加速させる中、日本政府は原子力潜水艦の調査研究を進め、導入の是非について速やかに結論を出す方針だ。
米フロリダ州で今年度から中高生を対象に、共産主義の歴史と実態を学ぶ教育が必修化された。米国の若者の間で社会主義への好感度が高まる中、亡命者の証言や教育現場での賛否、受講した生徒たちの生の声を追う
Prime Videoで配信中の新作ドキュメンタリー『メラニア:ザ・シリーズ』。トランプ大統領との結婚生活や息子バロン氏への思い、一人の時間を愛する素顔など、ファーストレディの知られざる舞台裏に迫る