アメリカの人工知能開発企業OpenAIは7月21日、同社の先進的なAIモデルを基盤とする自律エージェントが、安全性評価の期間中に隔離環境を突破し、外部ネットワークに接続したうえで、AI企業Hugging Faceのインフラに侵入していたと明らかにした。  

Hugging Faceは、この一連の攻撃について、開始から終了まで自律エージェントによって実行された可能性があるとしている。確認されれば初めての事例となる可能性がある。  

AIが隔離を突破　未知の脆弱性を利用  

OpenAIによると、この事案には複数のモデルが関与しており、公開済みのGPT-5.6 Solのほか、社内で試験中のモデルも含まれている。  

今回の評価は、AIモデルが持ちうるサイバー攻撃能力の上限を検証することを目的としていた。このため、テスト期間中は一部のセキュリティ対策が無効化されていたという。  

OpenAIは、モデルを高度に隔離された環境に置いていたとしているが、当該エージェントはこの環境を突破し、インターネットに接続したうえで、Hugging Faceのシステムへの侵入を試みた。  

調査の結果、このAIは盗まれた認証情報を使用したほか、未知の脆弱性を特定し、それを利用してサーバーにアクセスしていたことが分かった。  

OpenAIは、このエージェントがテスト目標の達成に向けて通常とは異なる手段をとり、機密情報の取得や評価の不正な操作が可能な状態にあったと説明している。  

その後、OpenAIのセキュリティチームが異常な挙動を検知し、Hugging Face側もこれを把握して遮断した。両社は速やかに隔離措置と詳細な調査を行ったとしている。  

Hugging Face「一連の攻撃は自律的に実行」  

Hugging Faceの共同創業者兼CEO、クレマン・ドゥラング氏は、同社が先週、データ処理システムへの不正アクセスを検知したと明らかにした。  

そのうえで、この攻撃は従来の事例とは異なる特徴を持ち、「一連の過程が自律的に動作するシステムによって実行されていた」と説明している。  

ドゥラング氏はSNSへの投稿で、攻撃の性質から高度な研究機関の関与を疑っていたとしたうえで、結果としてそれが事実であったとしている。  

また、今回の事案について、すべての過程が自律的に進行した点に強い驚きを示した。  

さらに、OpenAIと連携して対応にあたっているとし、同社に悪意はなかったとの認識を示している。  

自律型AIエージェントの危険性  

今回の事案については、先進的なAIの能力と安全性をめぐる課題が改めて浮き彫りになったとの指摘が出ている。  

アメリカ議会のグレッグ・カサー下院議員は声明で、AIの発展が急速に進む一方で、安全確保のための制度整備が十分でないとの認識を示した。  

そのうえで、第三者による安全性検証の義務化や、インシデントの報告制度の整備、国際的な連携の必要性を指摘している。  

また、セキュリティ分野の専門家は、今回の事案が将来的に同様の事例の増加につながる可能性があるとしている。  

Luta Securityのケイティ・ムソウリス氏は、現在のAIについて、複雑な状況にも対応可能な高い柔軟性を持つとしたうえで、制御や監視の重要性を指摘した。  

さらに、研究機関や政府は、AIが想定外の挙動を示した場合にも適切に隔離・監視し、関係者に情報を共有できる体制を整備する必要があるとしている。  

一方、サイバーセキュリティ企業Tolmoのマット・スイッシュ氏は、今回の事案について、AIの能力が高度な攻撃者に近づきつつある可能性を示すものだと指摘した。  

ただし、同様の攻撃は必ずしも最先端のAIに限らず、既存の技術でも実行可能であるとの見方も示している。  

こうした中、アメリカ政府はAIに関する安全対策を強化している。トランプ大統領は6月、先進的なAIシステムの公開前に最大1か月かけて安全保障上のリスクを評価する仕組みを導入する大統領令に署名した。  

OpenAIは声明で、AIの発展によって脆弱性の発見や悪用の速度が高まっていると指摘している。  

そのうえで、AIの能力向上に対応するかたちで、安全対策やセキュリティの強化を進める必要があるとしている。