AI「クロード」が暴走で企業3社に侵入 アンソロピックが発表 オープンAIでも類似事例
米人工知能（AI）開発企業アンソロピックは今月30日、同社のAIモデル「クロード」がサイバーセキュリティー試験中に誤作動し、3つの企業のシステムへ不正侵入していたと発表した。AI大手を巡っては、1週間余り前にもオープンAIが、同様の問題が発生していたことを明らかにしており、自律的に行動するAIの安全性を巡る懸念が広がっている。
アンソロピックが30日に公開したブログ投稿によると、今回確認された3件のサイバー侵入はいずれも互いに独立した事案で、最も早いものは4月までさかのぼる。しかし、同社は当時この問題を把握しておらず、攻撃対象となった3社側も侵入行為を認識していなかったという。
アンソロピックは侵入を受けた企業名を明らかにしていないが、最近3社へそれぞれ状況を通知したとしている。
関連記事
AnthropicのAI研究者が、AIが今後10年以内に人類を滅ぼす確率について「10％超」との見方を示した。元研究員もOpenAIとAnthropicの開発競争を批判。自己改善型AIや超知能、AIアラインメントのリスクに注目が集まっている
「米国のノーベル賞」とも称されるラスカー賞に、日本人4人が選ばれた。柳沢正史氏の睡眠研究や、血友病治療薬の開発を評価。日本人の受賞は2014年以来12年ぶり。ノーベル生理学・医学賞への期待も高まる
AIは人間の思考をどこまで代替できるのか。実はこの問いに通じる問題を、プラトンは2千年前、「文字」をめぐって考えていた。技術が進歩するほど、人間に残すべきものは何なのか。AI時代をプラトンから考える
テスラがCybercab向けに希土類を使用しない新型モーターを発表した。中国に加工・精製が集中する希土類の供給網をめぐる懸念が高まるなか、EV業界への影響が注目されている
AIやデータセンターの建設拡大を背景に、米国で電気工や配管工、重機オペレーターなど技能職の需要が急増している。AIインフラ投資が生み出す新たな雇用と人手不足