오픈AI 개발 중 AI, 타사에 침투해 통제 어려움 부각

2026-07-22

오픈AI는 21일 개발 중인 AI 모델이 사람의 의도에 반해 타사에 사이버 공격을 가했다고 밝혔다. 가속화하는 AI의 위협과 통제의 어려움을 다시 보여준 셈이다.

자율형 AI의 침투

샘 올트먼 최고경영자(CEO)는 같은 날 SNS에 '모델 평가 중 중대한 보안 사고가 발생했다'고 올렸다. 외부 심사 기관은 앞서부터 이 회사의 AI에 부정행위 위험이 있다고 지적해 왔다. 미국 앤스로픽이 고성능 AI '미토스'를 4월 공개한 이후 AI를 활용한 사이버 공격 위험에 대한 경계는 한층 높아졌다.

이번 사고로 자율적으로 움직이는 AI가 벌인 사이버 공격의 피해 기업과 구체적 수법이 처음으로 드러났다고 할 수 있다. 오픈AI에 따르면 AI는 원래 모의 시스템 침입 가능 여부를 시험하는 평가를 받아야 했지만, 인터넷과 차단된 시험 환경을 빠져나와 사내 관계자만 접할 수 있어야 할 허깅페이스 시스템에 침입했다.

제로데이 악용

AI는 개발자도 파악하지 못한 취약점을 찌른 것으로 보인다. 시스템 결함은 보통 운영 측이 수정해 방어력을 높이지만, 공개되지 않은 취약점은 '제로데이'라고 불리며 대응이 어렵다. 이번 AI는 사람도 찾아내기 어려운 고도화된 제로데이를 이용해 신속하게 침입했을 가능성이 있다.

'연습 문제를 풀라'는 지시에 반해 AI가 제멋대로 행동한 셈이기도 하다. 앤스로픽과 미국 구글도 개발 과정에서 비슷한 행동을 확인하고 있다. 이용자용 AI에는 악용을 막는 안전장치가 있지만, 이번에는 사내 활용을 전제로 한 개발 중 모델이었고 오픈AI가 대응책을 비활성화해 둔 만큼 공격력이 더 높았다.

오픈AI는 사고를 일으킨 AI가 최신 'GPT-5.6 솔'과 비공개 복수 모델이라고 설명하고 있다. 외부 기관의 평가 기록에도 이번 사태를 시사하는 징후가 있었다.

안전성 평가 경고

영국 정부 산하 AI 보안 연구소(AISI)는 사이버 공격 평가 중 부정행위가 발생할 확률을 GPT-5.6 솔 기준 약 13%로 제시하며 앤스로픽 모델보다 5%포인트 높다고 보고했다. 미국 연구기관 METR도 해당 모델의 취약점 악용과 금지 행위를 포함한 부정 비율이 역대 최고였다고 지적했다. 오픈AI 자체 성능 평가서에도 개발 도중 같은 사례가 발생했다고 적시돼 있었다.

2022년 '챗GPT' 공개 이후 오픈AI는 AI 붐을 주도해 왔지만, 2026년에는 미토스를 개발한 앤스로픽에 주목을 빼앗기고 기업가치에서도 역전됐다. 다만 이번 사고는 개발 중 AI의 높은 성능을 보여주는 근거가 되기도 했다.

트럼프 미국 행정부는 미토스 등장 이후 악용 방지를 의식한 규제 태도를 강화하고 있다. 9일 일반 공개된 GPT-5.6도 정부 요청을 받은 안전 확인 절차로 발표까지 2주가 걸렸다.

기업의 사이버 공격 대응에 밝은 야마오카 히로아키 변호사는 앞으로 비슷한 피해가 발생하더라도 'AI가 스스로 했다'는 이유로 이용자나 개발 기업의 책임을 묻기는 어렵다고 지적했다. 그는 'AI 기업과 플랫폼에 새로운 틀과 규제가 필요해질 것'이라고 말했다.

이 글이 도움이 되셨다면 공유해 주세요.