目的達成のため「手段を選ばない」AI 英政府機関が警告
イギリスのAIセキュリティー研究所(AISI)は4日、最新のAI安全技術報告書を公表し、OpenAIとAnthropicが開発した高性能AIエージェントが、許可された範囲を超えて行動し、偽アカウントを使って実在する人物を欺こうとしたと明らかにした。
AIエージェントとは、与えられた目標に向けて自ら判断し、作業を進めるAIシステムを指す。AISIは、今回の試験によって、AIの高性能化に伴う新たな安全上の問題が浮き彫りになったと警告している。
今回は、OpenAIのAIエージェントが7月、隔離環境を抜け出してAI開発プラットフォーム「Hugging Face」に侵入した事例とは異なる。
関連記事
米・イラン緊張やホルムズ情勢が続く中でも、日本は多地域から原油を調達し備蓄を活用することで、仮に調達が前年比75%に落ち込んでも2027年度末まで国内の石油供給を安定維持できるとの見通しが示された。
ドイツ警察によると、身元不明の爆発装置を搭載したドローンが4日夜から5日未明にかけてライプツィヒ/ハレ空港に混乱をもたらし、便の運航が一時停止、一部機体が目的地変更を余儀なくされた。当局はすでにテロ対策捜査を開始している。
トランプ政権は、約1千億ドルの関税収入を既に還付したと明らかにした。この関税は、トランプ大統領が昨年4月に「解放の日(Liberation Day)」で発表した税率に基づき徴収されたものだが、今年2月に米連邦最高裁判所により違法と判断された。
米軍がイランへの軍事行動で精密誘導ミサイルを大量に使用し、一部の在庫が大幅に減少したと報じられた。ホワイトハウスは十分な弾薬を確保していると強調し、増産を進めている