AI暴走リスク受け、アンソロピックとオープンAIが規制強化訴え

2026-06-05

AI暴走への抑制策を主張

アンソロピックとオープンAIは、人工知能（AI）の暴走リスクを抑えるには開発の一時停止や減速、政府による監視強化が有効だとの見方を示した。AIの進化が加速するなか、開発企業自らが抑制策の必要性を訴える構図が鮮明になっている。

アンソロピックは4日公表したブログで、技術の進展を意図的に遅らせ、対処する時間を確保するのは望ましいと指摘した。中国などを念頭に、各国が抜け駆けしないための国際協調の枠組みを整えられるなら、先端AIの開発をあえて遅らせる選択肢は有益だとした。

同社は高性能AIモデル「クロード・ミュトス」を、悪用防止を理由に一般公開していない。性能向上が加速すれば、人間が安全性を制御しきれず、AIが暴走するおそれが高まると警告している。人間が介在しなくてもAIが自ら改良を重ねる「自己改良」の可能性にも言及した。

米国ではミュトスの登場を受け、AI規制に慎重だったトランプ政権の姿勢にも変化が出ている。2日には、最先端AIの公開前に政府が安全性を確認できるよう、開発企業に協力を求める大統領令にトランプ大統領が署名した。

同日、アンソロピックはこの大統領令について「米国のAIリーダーシップを強化する重要な一歩だ」と賛意を示した。オープンAIのサム・アルトマン最高経営責任者（CEO）もX（旧ツイッター）で、「開発促進と規制のバランスが取れている」と評価していた。

オープンAIは2日に発表した政策提言で、最先端AIの評価を担う政府機関「AI標準・イノベーションセンター（CAISI）」の体制強化が必要だと訴えた。大統領令では評価を任意としているが、「企業の自主的な取り組みでは不十分」として義務化を求めた。

アルトマン氏は翌3日にホワイトハウスを訪れ、政府関係者や共和・民主両党の有力議員と面会した。政策提言では連邦政府による規制導入の必要性も示しており、こうした意見を直接伝えた可能性がある。

アンソロピックとオープンAIは、最先端AIモデルの開発と顧客獲得で競うライバル関係にある。それでも両社がブレーキの必要性を訴える背景には、AIが社会に与える負の影響への警戒が強まっていることがある。

米国ではAIの普及と並行して、若年層を中心に雇用不安が広がり、AIに仕事を奪われているとの不満も出ている。高性能なミュトスの登場を受け、サイバー攻撃への懸念も高まっている。

年内の新規株式公開（IPO）を目指す両社は、AI開発を主導してきた一方で、社会の不安を和らげるためガバナンス強化の姿勢を強めている。

アンソロピックは創業時から安全性重視を掲げ、11月の米中間選挙に向けてもAI規制を支持する候補への支援を続ける。もっとも、同社の規制要請については、競合の台頭を抑える狙いがあるとみる政府関係者もいる。

オープンAIも安全対策や政策提言の公表を続けている。4月には、失業や社会混乱を抑えるため、富裕層や企業への課税強化、週休3日制の拡大を促す政策案を示した。5月には、リスク管理体制などを文書で開示し、州ごとや海外の規制への対応方針も明らかにした。

さらに6月3日には、アルトマン氏らが、AIを使った病原菌などの生物兵器開発を防ぐ対策が不十分だとして、米議会に法制化を求めた。アンソロピックのダリオ・アモデイCEOや、グーグルのAI開発部門トップであるデミス・ハサビス氏ら主要企業幹部と連名で書簡を公表した。

この記事が役に立ったら、ぜひシェアしてください。