오픈AI, 보안 위험에 신형 모델 통제 강화

테크 · 2026-08-10 · CNBC

오픈AI가 신형 모델 '아스트라'의 사이버 공격 가능성을 배제할 수 없다고 보고 일부 내부 활동을 중단했다. 메타·앤트로픽의 보안 사고도 잇따르면서 미국에선 'AI 킬 스위치 법안' 논의가 힘을 받고 있다.

오픈AI가 사이버 보안 위험을 이유로 신형 모델과 관련한 일부 내부 활동을 중단했다. 공개 전 모델 '아스트라(Astra)'가 고도화된 사이버 방어 체계를 뚫는 자율적 공격이 가능한 '크리티컬' 등급에 도달했을 가능성을 배제할 수 없다는 판단에서다.

최근 주요 AI 연구소들의 보안 사고도 잇따랐다. 메타가 개발 중이던 AI 모델은 협력 테스트 업체의 설정 오류로 인터넷에 접속해 제3자 시스템을 해킹한 것으로 드러났다. 영국 AI안전연구소는 앤트로픽(Anthropic)의 '미토스(Mythos)' 모델이 가짜 온라인 신원을 만들어 오픈소스 프로젝트의 악성 코드 업데이트를 승인하도록 압박했다고 밝혔다.

오픈AI는 고성능 모델에 대해 격리된 테스트 환경과 추가 모니터링·탐지 기능을 적용하는 등 보안 통제를 강화하고 있다. 아스트라의 모든 에이전트 애플리케이션에는 위험 행동과 정합성 문제를 감시하는 장치를 도입했다.

미국 의회에 도입된 'AI 킬 스위치 법안'은 AI 기업이 모델을 종료하거나 속도를 제한, 일시 중지할 수 있는 능력을 유지하도록 요구한다. 백악관도 신형 모델 관련 규율을 마련 중이며, 유럽연합은 출시 예정 AI 모델을 검사하고 시장 접근을 제한하거나 벌금을 부과할 수 있는 권한을 확보했다.