Anthropic AI開発停止を提言 AI自己改良とAGIリスクに警鐘
米サンフランシスコに本社を置く人工知能（AI）企業Anthropicは6月4日、声明を発表し、世界の主要なAI研究機関に対し、最先端AIシステムの開発ペースを落とす、あるいは一時停止することを検討するよう呼びかけた。同時に、AIは「再帰的自己改良（Recursive Self-Improvement）」の能力に徐々に接近していると警告した。
これは、人間の介入をほとんど必要とせずにAIシステムが自ら性能を向上させることを意味し、社会に重大なリスクをもたらす可能性があるとされる。
同社が発表した声明によると、研究者らは「最先端AI開発の減速または一時的な停止」が実現すれば、社会的ガバナンスや安全性研究が技術進展の速度に追いつく助けになると考えている。
関連記事
司法省は18億ドルの基金設置を断念したが、ブランシュ氏はその理念を強く擁護した。政府が国民に対し「武器化」されてきたというトランプ氏の主張の重要性は、基金が破棄された今も変わらないと言明した
米国は相互主義を理由に、一部の新華社駐米記者のビザを取り消した。専門家は、中共が官製メディアを通じて進める海外宣伝や影響力工作への対抗措置だと指摘している
トランプ氏による「国立芸術センター再建計画」が、リベラル勢力の抵抗で急停止。名称刷新で復活を目指すトランプ流の抜本改革を、オバマ任用の判事が手続き論で阻む。激化する政治闘争の舞台裏
米カリフォルニア州アルケイディア市の前市長アイリーン・リー・ワン容疑者が、中共政府の違法代理人として活動した罪を正式に認めた。量刑審理は10月に予定