AI 폭주 위험에 앤트로픽·오픈AI, 규제 강화 촉구

2026-06-05

AI 폭주 억제책 주장

앤트로픽과 오픈AI는 인공지능(AI)의 폭주 위험을 줄이기 위해 개발의 일시 중단이나 속도 조절, 정부의 감시 강화가 효과적이라는 견해를 밝혔다. AI 진화가 가속하는 가운데 개발 기업 스스로 억제책의 필요성을 제기하는 구도가 뚜렷해지고 있다.

자기개선과 폭주 우려

앤트로픽은 4일 공개한 블로그에서 기술 발전을 의도적으로 늦춰 대응할 시간을 확보하는 것이 바람직하다고 지적했다. 중국 등을 염두에 두고 각국이 선점 경쟁에 나서지 않도록 국제 협력 틀을 마련할 수 있다면, 첨단 AI 개발을 일부러 늦추는 선택은 유익하다고 했다.

이 회사는 고성능 AI 모델 '클로드 미투스'를 악용 방지를 이유로 일반에 공개하지 않고 있다. 성능 향상이 가속되면 인간이 안전성을 통제하기 어려워지고 AI가 폭주할 가능성이 높아진다고 경고했다. 인간이 개입하지 않아도 AI가 스스로 개선을 거듭하는 '자기개선' 가능성도 언급했다.

미국에서는 미투스의 등장 이후 AI 규제에 신중했던 트럼프 행정부의 태도에도 변화가 나타나고 있다. 2일에는 최첨단 AI 공개 전 정부가 안전성을 확인할 수 있도록 개발 기업의 협력을 요구하는 대통령령에 트럼프 대통령이 서명했다.

같은 날 앤트로픽은 이 대통령령에 대해 '미국의 AI 리더십을 강화하는 중요한 진전'이라며 환영했다. 오픈AI의 샘 올트먼 최고경영자(CEO)도 X(옛 트위터)에서 '개발 촉진과 규제의 균형이 맞다'고 평가했다.

정부 감시 강화 요구

오픈AI는 2일 발표한 정책 제언에서 최첨단 AI 평가를 맡는 정부 기관 'AI 표준·혁신센터(CAISI)'의 역량 강화를 촉구했다. 대통령령은 평가를 임의 사항으로 두고 있지만 '기업의 자발적 노력만으로는 불충분하다'며 의무화를 요구했다.

올트먼 CEO는 다음 날인 3일 백악관을 찾아 정부 관계자와 공화·민주 양당의 유력 의원들을 만났다. 정책 제언에는 연방 정부의 규제 도입 필요성도 담겨 있어, 이 같은 의견을 직접 전달했을 가능성이 있다.

연내 IPO 앞두고 불안 해소 노려

앤트로픽과 오픈AI는 최첨단 AI 모델 개발과 고객 확보를 놓고 경쟁하는 라이벌 관계다. 그럼에도 두 회사가 브레이크의 필요성을 강조하는 배경에는 AI가 사회에 미칠 부정적 영향에 대한 경계심이 커지고 있다는 점이 있다.

미국에서는 AI 확산과 함께 젊은 층을 중심으로 고용 불안이 번지고 있으며, AI가 일자리를 빼앗고 있다는 불만도 나오고 있다. 고성능 미투스의 등장으로 사이버 공격에 대한 우려도 높아지고 있다.

연내 기업공개(IPO)를 목표로 하는 두 회사는 AI 개발을 주도해 온 한편, 사회의 불안을 완화하기 위해 거버넌스 강화를 강조하고 있다.

앤트로픽은 창업 초기부터 안전성 중시를 내세워 왔으며 11월 미국 중간선거를 앞두고도 AI 규제를 지지하는 후보에 대한 지원을 이어간다. 다만 이 회사의 규제 요구에 대해서는 경쟁사 부상을 억제하려는 의도가 있다고 보는 정부 관계자도 있다.

오픈AI도 안전 대책과 정책 제언 공개를 이어가고 있다. 4월에는 실업과 사회 혼란을 억제하기 위해 부유층과 기업에 대한 증세, 주 3일 휴무제 확대를 촉진하는 정책안을 제시했다. 5월에는 리스크 관리 체계 등을 문서로 공개하고 주별 및 해외 규제에 대한 대응 방침도 밝혔다.

이어 6월 3일에는 올트먼 CEO 등이 AI를 활용한 병원균 등 생물무기 개발을 막기 위한 대책이 부족하다며 미국 의회에 입법화를 요청했다. 앤트로픽의 다리오 아모데이 CEO와 구글의 AI 개발 부문 책임자인 데미스 허사비스 등 주요 기업 경영진과 공동 명의로 서한을 공개했다.

이 글이 도움이 되셨다면 공유해 주세요.