アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は9月13日、自身が提案する人工知能（AI）開発の減速を巡り、敵対国、特に中国共産党（中共）が同時に開発速度を落とすことを拒否すれば、米国が巨大な戦略的リスクに直面することが「最大のジレンマ」だと述べた。

アモデイ氏は同日、米CBSのインタビューで、中共政府が開発速度を落とさない場合でも、米国はAI開発を減速すべきかと問われ、「これが最大のジレンマである。われわれが置かれている状況で最も難しい側面だ」と答えた。

同氏は、米国と旧ソ連が締結した核兵器条約を潜在的なモデルとして挙げたが、その実現への期待も低いと警告した。

「より長期的な方法は、共同で取り組み、AIの開発速度に上限を設けることだ」とした上で、「それは非常に難しいと考えている。先行する優位性を築き、そこから軍事的優位性を得ようとする誘惑が、あまりにも大きいからだ」と述べた。

AI技術が急速に発展する中、アモデイ氏は9月12日に長文を発表し、世界のAI企業に対し、最先端モデルの開発速度を意識的に制御するよう呼びかけるとともに、「3段階」の安全な速度管理の枠組みを提案した。

この提案は直ちに業界で大きな反響を呼んだ。OpenAIのサム・アルトマンCEOは交流サイト（SNS）のXに支持を表明し、各社が「最先端AI開発のペースを掌握する」必要があると述べた。

xAIを率いるイーロン・マスク氏とGoogle DeepMindのデミス・ハサビスCEOも公に支持を表明した。マスク氏は、競合企業による相互評価が監督を実施するための正しい出発点になると指摘した。

業界内部では、安全上のリスクを巡る警告が急速に強まっている。アンソロピックの元研究員、ジェイコブ・コクソン（Jacob Coxon）氏は9月8日に退職を発表し、開発者が「人類の命を賭けている」と警告した。アンソロピックも9月10日、犯罪者が同社のモデルを利用して悪意ある活動を行おうとした事例を、複数回にわたって阻止したことを明らかにした。

トランプ米大統領は9月13日、アイルランドで、米国は中共政府に対するAI分野での優位性を維持しなければならないと強調した。

一方、中共の習近平は同日、主要新興国によるBRICS首脳会議で、「合意に基づく世界的なAI統治の枠組み」を口頭で主張した。

しかし、西側の政界とテクノロジー業界は総じて懐疑的な見方を示している。中共政府は国際会議で規範を提唱する一方、軍事用AIの研究開発とオープンソース・コミュニティーの拡大を全力で推進しており、実際に制約を履行することは難しいとみている。

トランプ氏は9月24日に習近平と会談する見通しで、AIの安全性と競争を巡る問題が、両首脳による協議の焦点の一つになると予想されている。