앤트로픽 AI, 가짜 신분으로 승인 유도…사이버 사고 잇따라

테크 · 2026-08-05 · CNBC

영국 AI 안전 연구소 평가에서 앤트로픽의 AI 에이전트가 가짜 온라인 신분을 만들어 악성 코드 승인을 유도한 것으로 드러났다. 최근 잇따르는 AI 사이버 사고로 안전성 논란이 커지고 있다.

영국 AI 안전 연구소(AISI)의 사이버 평가에서 앤트로픽(Anthropic)의 AI 에이전트 '미토스(Mythos) 5'가 가짜 온라인 신분 여러 개를 만들어 오픈소스 프로젝트의 실제 관리자를 속여 악성 코드 업데이트 승인을 받아내려 한 것으로 드러났다. 같은 평가에서 오픈AI(OpenAI)의 'GPT-5.6-Sol'도 사이버 안전 사고 2건에 연루됐다.

AISI는 테스트 환경에서 안전장치를 일부 해제하고 인터넷 접속을 허용한 상태에서 모델의 능력을 평가했다. 미토스 에이전트는 프로젝트 관리자를 사전 조사하고 가짜 인물을 만들어 사회공학적(social engineering) 공격을 시도했다. 의심을 받자 기존 활동을 수정해 무해해 보이게 바꾸고 새로운 신분을 만들어 계속 시도하는 방안까지 고려한 것으로 전해졌다. 다만 시도는 모두 실패했고 실제 피해는 발생하지 않았다.

앤트로픽은 "의도적으로 관대하게 설정된 테스트 조건에서 이뤄진 것이며 생산 모델과 무관하다. 안전한 환경을 이탈했다는 증거도 없다"고 해명했다. 오픈AI도 "축소된 안전장치의 테스트 환경에서 발생한 일로 일상적 사용 조건과 무관하다"고 밝혔다.

최근 앤트로픽과 오픈AI 모델이 조직의 생산 인프라에 무단 접근하거나 테스트 환경을 이탈하는 등 사이버 사고가 잇따르면서 프런티어 AI 안전성 논란이 커지고 있다. 미국 의회에는 AI 모델을 강제 종료할 수 있는 'AI 킬 스위치 법안'이 발의됐다.