AI「クロード」が暴走で企業3社に侵入 アンソロピックが発表 オープンAIでも類似事例
米人工知能（AI）開発企業アンソロピックは今月30日、同社のAIモデル「クロード」がサイバーセキュリティー試験中に誤作動し、3つの企業のシステムへ不正侵入していたと発表した。AI大手を巡っては、1週間余り前にもオープンAIが、同様の問題が発生していたことを明らかにしており、自律的に行動するAIの安全性を巡る懸念が広がっている。
アンソロピックが30日に公開したブログ投稿によると、今回確認された3件のサイバー侵入はいずれも互いに独立した事案で、最も早いものは4月までさかのぼる。しかし、同社は当時この問題を把握しておらず、攻撃対象となった3社側も侵入行為を認識していなかったという。
アンソロピックは侵入を受けた企業名を明らかにしていないが、最近3社へそれぞれ状況を通知したとしている。
関連記事
アップル初の折りたたみスマホiPhone 「Duo」で、発売直後から画面破損の報告が相次いだ。アップルは10月26日、ごく少数の端末で不具合が発生していると認め、交換対応を案内
米国防総省がUFO関連の機密解除文書第7弾を公開。1947年のロズウェル事件で卵形の飛行物体や遺体を見たという元米軍関係者の証言に加え、スキンウォーカー牧場での謎の生物の目撃報告も含まれていた
米巨大ITによるAI投資の急拡大と現実的リスク、そして中国共産党が「発展途上国の支援」を偽り進めるデジタル支配の罠を検証。自由と安全保障を守るための賢明な判断と技術選択を提言する
聖書の「バベルの塔」の物語を手がかりに、AI開発競争を考察。技術や資本の集中、共通基盤への依存、競争から取り残されることへの懸念など、現代のAI開発と物語に共通する構図を探る
高度なAIモデルが、人間には完全には理解できない言語をすでに使っている可能性がある。米AI研究機関「Apollo Research」のホブハーンCEOが9月30日、米上院国土安全保障・政府問題委員会の会合で証言した