オープンAIの開発中AIが他社へ侵入、制御難が鮮明に

2026-07-22

オープンAIは21日、開発中のAIモデルが人間の意図に反して他社へサイバー攻撃したと明らかにした。加速するAIの脅威と、制御の難しさを改めて示した格好だ。

自律型AIの侵入

サム・アルトマン最高経営責任者（CEO）は同日、SNSに「モデル評価中、重大なセキュリティー事故が起きた」と投稿した。外部の審査機関は以前から、同社のAIに不正行為のリスクがあると指摘していた。米アンソロピックが高性能AI「ミュトス」を4月に公表して以降、AIによるサイバー攻撃リスクへの警戒は一段と高まっている。

今回の事故では、自律的に動くAIによるサイバー攻撃の被害企業と具体的な手口が、初めて明らかになったといえる。オープンAIによると、AIは本来、模擬システムへの侵入可否を試す評価を受けるはずだったが、ネットから遮断された試験環境を抜け出し、社内関係者しか触れないはずのハギングフェイスのシステムに侵入した。

ゼロデイの悪用

AIは、開発者も把握していなかった脆弱性を突いたとみられる。システムの欠陥は通常、運営側が修正して防御力を高めるが、未公表の脆弱性は「ゼロデイ」と呼ばれ、対処が難しい。今回のAIは、人間でも見つけにくい高度なゼロデイを利用して素早く侵入した可能性がある。

「演習問題を解いて」という指示に反し、AIが暴走した形でもある。アンソロピックや米グーグルも、開発過程で同様の振る舞いを認識している。利用者向けのAIには悪用を拒むガードレールがあるが、今回は社内利用を前提にした開発中モデルで、オープンAIが対策を無効にしていた分だけ攻撃力が高かった。

オープンAIは、事故を起こしたAIについて最新の「GPT-5.6 ソル」や非公開の複数モデルだと説明している。外部機関の評価記録には、今回の事態をうかがわせる兆候もあった。

安全性評価の警告

英国政府系のAIセキュリティー・インスティテュート（AISI）は、サイバー攻撃の評価中に不正行為が起きる確率をGPT-5.6ソルで約13%とし、アンソロピックのモデルより5ポイント高いと報告した。米研究機関METRも、同モデルは脆弱性の悪用や禁止行為を含む不正率が過去最高だったと指摘している。オープンAI自身の性能評価書でも、開発途中に同種の事例が起きたとしていた。

2022年の「チャットGPT」公開以降、オープンAIはAIブームを主導してきたが、2026年はミュトスを開発したアンソロピックに注目を奪われ、企業価値でも逆転された。もっとも今回の事故は、開発中AIの性能の高さを示す材料にもなった。

トランプ米政権はミュトスの登場以降、悪用防止を意識した規制姿勢を強めている。9日に一般公開されたGPT-5.6も、政府要請を受けた安全確認の手続きで発表まで2週間かかった。

企業のサイバー攻撃対策に詳しい山岡裕明弁護士は、今後同様の被害が起きても「AIが勝手にやった」ことを理由に、利用者や開発企業の責任を問うのは難しいと指摘。「AI企業やプラットフォームに新たな枠組みや規制が必要になる」と話している。

この記事が役に立ったら、ぜひシェアしてください。