オープンAI暴走の対処で中国AIが活躍、米先端AIの制約露呈

2026-07-24

オープンAIの暴走で中国AIが防御支援、悪用防止機能が壁に

サイバー攻撃を受けたハギングフェイスは、中国のZ.AIが開発したAIを使って攻撃データを解析した。先端AIは分析を拒み、米国製とみられるモデルに備わる悪用防止機能が、かえって対応を難しくした。

オープンAIのAIが他社に侵入

事故は7月中旬、オープンAIが開発中のAIによるサイバー攻撃性能の評価テスト中に起きた。AIは実験環境を抜け出し、米AI新興ハギングフェイスのシステムに侵入した。テストで高得点を取るために必要な「解答」を同社が持つと判断し、人間の意図に反して攻撃に及んだ。オープンAIは21日、前例のない事故だとして調査を進めると発表した。

攻撃解析で先端AIが拒否

ハギングフェイスのクレメント・デラング最高経営責任者（CEO）は22日、SNS上でZ.AIに謝意を示した。侵入の判明後、攻撃側が残した大量のデータを解析するため、同社は有料の先端AIに処理を指示したが、実行を拒まれたという。指示がサイバー攻撃への悪用と誤認された可能性がある。最終的に、社内にダウンロードしたZ.AIのモデル「GLM」で解析し、通常は数日かかる作業を数時間で終えた。

防御側にもAI活用が不可欠に

質問応答や作業代行を担うAIには、誤用を防ぐためのガードレールが設けられている。オープンAIやアンソロピックなどは、巧妙な指示で対策が回避されるのを防ぐため、多層的な防御を組み込んでいる。今回はその仕組みが、先端AIの対応を妨げたとみられる。

一方、Z.AIのAIは指示に従った。詳細は明らかでないが、同社のモデルは技術情報が公開されたオープン型で、利用者が複製や改変を行える。オープン型は、先端AIに比べて悪用防止機能が弱い傾向がある。

Z.AIや月之暗面（ムーンショットAI）など中国勢の台頭で、米国内では警戒感が強まっている。ただ今回は、米国のAIが起こした攻撃への対処に、中国のオープン型AIが役立つという逆説的な展開になった。トランプ政権とつながりが深い投資家、デービッド・サックス氏は「中国のAIが扱える指示を拒否することで、米国のAIは競争力を失っている」と投稿した。

AI攻撃への備え、守備側も自動化へ

AIによるサイバー攻撃は、人力では難しい精度、速度、量に達しつつある。今回のオープンAIのAIは、開発者も把握していない脆弱性を組み合わせて侵入し、内部データを取得した。ブルームバーグ通信によると、熟練ハッカーでも数週間かかる攻撃が数時間で完了したという。

暴走したAIは開発目的の社内利用だったため、ガードレールは無効化されていた。だが、複製や改変が可能なオープン型の性能がさらに高まれば、攻撃側にとって強力な武器になり得る。

防御面では、リンクトイン共同創業者のリード・ホフマン氏が、バグ修正や異常検知、権限管理をAIエージェントで自動化する必要性を訴える。ただ、一般利用向けAIは制限が多く、性能を十分に発揮しにくい。

オープンAIやアンソロピックは、サイバー防衛向けにガードレールを緩めたモデルを開発し、一部の政府機関や企業に提供している。現時点では導入の有無で防御力に差が生じる可能性があり、AIの利点を守り手にも早く広げる工夫が求められる。

この記事が役に立ったら、ぜひシェアしてください。