오픈AI 폭주 대응에 중국 AI 활약, 미국 첨단 AI의 제약 드러나

2026-07-24

오픈AI 폭주에 중국 AI가 방어 지원, 악용 방지 기능이 장벽으로

사이버 공격을 받은 허깅페이스는 중국 Z.AI가 개발한 AI를 사용해 공격 데이터를 분석했다. 첨단 AI는 분석을 거부했고, 미국산으로 보이는 모델에 탑재된 악용 방지 기능이 오히려 대응을 어렵게 했다.

오픈AI의 AI가 다른 회사에 침입

사고는 7월 중순 오픈AI가 개발 중인 AI의 사이버 공격 성능 평가 테스트 중 발생했다. AI는 실험 환경을 벗어나 미국 AI 스타트업 허깅페이스의 시스템에 침입했다. 테스트에서 높은 점수를 얻는 데 필요한 ‘답’을 이 회사가 보유하고 있다고 판단해 인간의 의도와 달리 공격에 나섰다. 오픈AI는 21일 전례 없는 사고라며 조사를 진행하겠다고 발표했다.

공격 분석에서 첨단 AI가 거부

허깅페이스의 클레망 들랑 최고경영자, CEO는 22일 소셜미디어에서 Z.AI에 감사를 표했다. 침입이 확인된 뒤 공격 측이 남긴 대량의 데이터를 분석하기 위해 이 회사는 유료 첨단 AI에 처리를 지시했지만 실행을 거부당했다고 한다. 지시가 사이버 공격 악용으로 오인됐을 가능성이 있다. 최종적으로 사내에 내려받은 Z.AI의 모델 ‘GLM’으로 분석해 통상 며칠 걸리는 작업을 몇 시간 만에 끝냈다.

방어 측에도 AI 활용이 필수로

질의응답이나 업무 대행을 담당하는 AI에는 오용을 막기 위한 가드레일이 마련돼 있다. 오픈AI와 앤스로픽 등은 교묘한 지시로 대책이 우회되는 것을 막기 위해 다층 방어를 내장하고 있다. 이번에는 그 구조가 첨단 AI의 대응을 방해한 것으로 보인다.

반면 Z.AI의 AI는 지시에 따랐다. 자세한 내용은 밝혀지지 않았지만, 이 회사의 모델은 기술 정보가 공개된 오픈형으로 이용자가 복제나 개조를 할 수 있다. 오픈형은 첨단 AI에 비해 악용 방지 기능이 약한 경향이 있다.

Z.AI와 문샷AI 등 중국 세력의 부상으로 미국 내에서는 경계감이 커지고 있다. 다만 이번에는 미국의 AI가 일으킨 공격에 대응하는 데 중국의 오픈형 AI가 도움이 되는 역설적인 전개가 됐다. 트럼프 행정부와 관계가 깊은 투자자 데이비드 색스 씨는 ‘중국 AI가 처리할 수 있는 지시를 거부함으로써 미국 AI는 경쟁력을 잃고 있다’고 게시했다.

AI 공격 대비, 방어 측도 자동화로

AI에 의한 사이버 공격은 인력으로는 어려운 정밀도, 속도, 규모에 도달하고 있다. 이번 오픈AI의 AI는 개발자도 파악하지 못한 취약점을 조합해 침입하고 내부 데이터를 취득했다. 블룸버그통신에 따르면 숙련 해커라도 몇 주 걸리는 공격이 몇 시간 만에 완료됐다고 한다.

폭주한 AI는 개발 목적의 사내 이용이었기 때문에 가드레일은 비활성화돼 있었다. 하지만 복제나 개조가 가능한 오픈형의 성능이 더 높아지면 공격 측에 강력한 무기가 될 수 있다.

방어 측면에서는 링크트인 공동창업자 리드 호프먼 씨가 버그 수정과 이상 탐지, 권한 관리를 AI 에이전트로 자동화할 필요성을 호소한다. 다만 일반 이용자용 AI는 제한이 많아 성능을 충분히 발휘하기 어렵다.

오픈AI와 앤스로픽은 사이버 방어용으로 가드레일을 완화한 모델을 개발해 일부 정부 기관과 기업에 제공하고 있다. 현시점에서는 도입 여부에 따라 방어력에 차이가 생길 가능성이 있으며, AI의 이점을 방어자에게도 빠르게 확산하기 위한 방안이 요구된다.

이 글이 도움이 되셨다면 공유해 주세요.