AIが数か月でサイバー防御を突破する恐れ ファイブアイズ機関が警告
高性能なAIモデルは、今後数か月のうちに、世界各国の政府や企業のサイバー防御網を突破し、無力化する可能性がある。各国の情報機関で構成する連携組織が6月22日、こう警告した。
アメリカ、イギリス、カナダ、オーストラリア、ニュージーランドの情報・安全保障機関による枠組み「ファイブアイズ情報監督・審査評議会（FIORC）」は共同声明を発表し、最先端AIモデル、いわゆるフロンティアAIモデルがもたらす脅威について警告した。
声明は、「フロンティアAIモデルは、現在の業界予測を上回る能力を持つと見込まれており、サイバー攻撃と防御のあり方を根本的に変える可能性がある。その時期は数年先ではなく、数か月以内だ」と指摘した。
関連記事
中国・安徽省で、AIの提案通りに農薬を散布した農家のゴマ畑約10ヘクタールが枯れる被害が発生
AIが自ら動き、他の企業に侵入。米アンソロピックの「クロード」が試験中に暴走し、3社へ不正アクセス。OpenAIでも類似事例が発覚している。
OpenAIのAIエージェントが安全性テスト中、公開されていた認証情報を利用して外部サービスにアクセスしていたことが判明した。同社は一部モデルの訓練を停止し、AI開発のペースや安全対策を見直している
現代を代表する物理学者の一人、スティーブン・ホーキング博士は生前、AIの制御不能、遺伝子技術、地球外文明との接触、地球温暖化、宇宙移住の遅れを、人類の存続を脅かすリスクとして警告していた
AIの利用が広がる中、子供の学びで問われているのは不正行為だけではない。便利な道具に頼る前に、思考力や忍耐力、試行錯誤する力をどう育てるかを考える