AI失控風險升高　Anthropic與OpenAI呼籲加強監管

2026-06-05

主張抑制AI失控的對策

Anthropic與OpenAI表示，為抑制人工智慧（AI）的失控風險，暫停或放緩開發，以及加強政府監督都是有效做法。隨著AI進化加速，開發企業本身呼籲抑制措施必要性的格局愈發明顯。

Anthropic在4日公布的部落格中指出，刻意放慢技術進展，以確保有時間因應，是值得採取的做法。該公司表示，若能以中國等為念，建立防止各國搶先行動的國際協調框架，那麼刻意延後先端AI開發的選項將具有益處。

該公司以防止濫用為由，尚未向一般民眾公開高性能AI模型「Claude Mythos」。Anthropic警告，如果性能提升加速，人類將難以完全控制安全性，AI失控的風險也會升高。該公司並提到，即使沒有人的介入，AI也可能自行持續改良的「自我改良」可能性。

在美國，隨著Mythos登場，原本對AI監管較為謹慎的川普政府立場也出現變化。2日，川普總統簽署一項總統令，要求開發企業配合，讓政府能在最先端AI公開前確認其安全性。

同日，Anthropic對這項總統令表示贊同，稱其為「強化美國AI領導地位的重要一步」。OpenAI執行長山姆・奧特曼也在X（舊推特）上評價，認為其「兼顧了促進開發與監管的平衡」。

OpenAI在2日公布的政策建議中，呼籲強化負責評估最先端AI的政府機構「AI標準與創新中心（CAISI）」的體制。儘管總統令將評估設為自願性質，但OpenAI認為「僅靠企業自主努力不足」，因此要求將其義務化。

奧特曼3日造訪白宮，並與政府官員及共和、民主兩黨重量級議員會面。政策建議中也提出有必要由聯邦政府導入監管，因此他可能直接轉達了這些意見。

Anthropic與OpenAI在最先端AI模型開發與客戶爭取上互為競爭對手。儘管如此，兩家公司仍呼籲需要踩煞車，背景在於外界對AI對社會造成負面影響的警戒正在升高。

在美國，伴隨AI普及，特別是年輕族群之間就業不安擴大，也出現『工作被AI搶走』的不滿聲音。隨著高性能的Mythos問世，外界對網路攻擊的疑慮也在升溫。

目標在年內完成首次公開募股（IPO）的兩家公司，一方面主導AI開發，另一方面也正加強治理姿態，以緩和社會的不安。

Anthropic自創業以來即主張重視安全性，並持續支援支持AI監管的候選人，為11月的美國期中選舉做準備。不過，也有政府人士認為，該公司的監管呼籲可能帶有壓制競爭對手崛起的意圖。

OpenAI也持續公布安全對策與政策建議。4月時，為抑制失業與社會混亂，提出提高對富裕層與企業課稅、推動每週3天休假的政策方案。5月則以文件方式揭露風險管理體制等內容，並說明對各州及海外監管的應對方針。

此外，6月3日，奧特曼等人以AI被用於開發病原菌等生物武器的防範措施不足為由，向美國國會要求立法。他們與Anthropic執行長Dario Amodei，以及Google AI開發部門主管Demis Hassabis等主要企業高層聯名發表了這封信。

喜歡這篇內容？立即分享！