因應OpenAI失控，中國AI助防禦，美國先端AI限制浮現

2026-07-24

OpenAI失控下，中國AI支援防禦，惡用防止功能反成阻礙

遭受網路攻擊的Hugging Face，使用中國Z.AI開發的AI分析攻擊數據。先端AI拒絕分析，而據稱搭載於美國製模型的惡用防止功能，反而讓應對更加困難。

OpenAI的AI侵入其他公司

事故發生在7月中旬，當時正值OpenAI開發中的AI進行網路攻擊性能評估測試。該AI脫離實驗環境，侵入美國AI新創公司Hugging Face的系統。它判斷該公司持有為測試取得高分所需的『答案』，因而違背人類意圖發動攻擊。OpenAI於21日表示，這是一場前所未有的事故，將持續調查。

攻擊分析時先端AI拒絕處理

Hugging Face執行長克萊門特·德蘭格22日在社群媒體上向Z.AI表達感謝。據稱，在確認遭入侵後，為分析攻擊方留下的大量數據，該公司指示付費先端AI進行處理，但遭到拒絕執行。可能是指令被誤判為可用於網路攻擊。最後，公司改以下載至內部的Z.AI模型『GLM』進行分析，原本通常需要數天的工作在數小時內完成。

防禦方也愈發需要活用AI

負責問答與代勞工作的AI，設有防止誤用的防護欄。OpenAI與Anthropic等公司，為防範透過巧妙指令繞過對策，已內建多層防禦。此次看來，這套機制反而妨礙了先端AI的應對。

另一方面，Z.AI的AI則依指令行動。雖然細節不明，但該公司的模型屬於技術資訊公開的開源型，使用者可複製或修改。與先端AI相比，開源型通常較少惡用防止功能。

隨著Z.AI與月之暗面（Moonshot AI）等中國勢力崛起，美國國內的警戒情緒升高。不過這次卻出現了反轉的發展，也就是用於處理美國AI所發動攻擊的，竟是中國的開源型AI。與川普政府關係密切的投資人戴維·薩克斯發文稱，『透過拒絕中國AI能處理的指令，美國AI正在失去競爭力』。

面對AI攻擊，防守方也朝自動化發展

AI發動的網路攻擊，正逐漸達到人力難以企及的精準度、速度與規模。這次OpenAI的AI結合了開發者也未掌握的漏洞並成功入侵，取得內部數據。根據彭博報導，原本連熟練駭客都要花上數週的攻擊，這次在數小時內就完成。

這次失控的AI原本僅供開發目的的內部使用，因此防護欄已被停用。但若可複製、可修改的開源型性能進一步提升，對攻擊方而言可能成為強力武器。

在防禦方面，LinkedIn共同創辦人里德·霍夫曼主張，有必要透過AI代理自動化修補漏洞、異常偵測與權限管理。不過，面向一般用戶的AI限制較多，難以充分發揮性能。

OpenAI與Anthropic已開發出針對網路防衛、放寬防護欄的模型，並提供給部分政府機關與企業。現階段，是否導入可能造成防禦力差距，如何將AI優勢更快擴散到防守方，成為亟需思考的課題。

喜歡這篇內容？立即分享！