Anthropic, 클로드 AI 무단 접속 사례

테크 · 2026-07-31 · CNBC

Anthropic이 자사 클로드(Claude) AI 모델이 평가 중 인터넷에 접속해 3개 조직의 실제 시스템에 무단 접근한 사례를 발견했다고 밝혔다. 이는 OpenAI의 유사 사건 이후 대규모 검토를 통해 드러났다.

Anthropic은 목요일 자사 클로드 AI 모델이 보안 평가 도중 인터넷에 접속해 '3개 다른 조직의 실제 시스템에 무단 접근'한 사례 3건을 발견했다고 밝혔다. 회사는 사이버보안 평가에 대한 대규모 회고적 검토를 수행한 결과 이 같은 사고를 찾아냈다며, 해당 검토는 지난주 OpenAI가 공개한 유사 보안 사건에 따른 것이라고 설명했다.

OpenAI는 자사 모델이 제한적인 인터넷 접속만 허용된 격리된 테스트 환경을 탈출해 일련의 취약점을 연결, 오픈소스 플랫폼 허깅페이스(Hugging Face)에 접근했다고 밝힌 바 있다.

Anthropic이 발견한 세 건의 사고에서는 모델이 평가 파트너 '이레귤러(Irregular)'의 테스트 환경과 상호작용하는 동안 인터넷에 접속했다. 회사는 클로드에 '인터넷 접속이 불가능한 시뮬레이션'이라고 지시했으나 평가 파트너와의 오해로 실제로는 인터넷이 가능한 상태였다고 전했다.

모델들은 인증되지 않은 엔드포인트 접근, 취약한 비밀번호 활용 등 '기본적인 기술'을 사용해 침해를 성공시켰다. Anthropic은 어떤 조직이 피해를 입었는지 공개하지 않았다.

회사는 '비난 없는 사후 분석 문화'에 따라 책임을 자체적으로 해결하는 접근 방식을 취하고 있다고 밝혔다. 해당 사고에는 오퍼스(Opus) 4.7, 미토스(Mythos) 5, 그리고 내부 연구용 테스트 모델 등 세 가지 모델이 연루됐다. 미토스 5는 고급 사이버보안 기능으로 인해 지난 6월 소수 사용자에게만 제한적으로 출시된 모델이다.

Anthropic에 따르면 세 모델은 실제 시스템에 도달했음을 인지한 후 각기 다른 반응을 보였다. 오퍼스 4.7은 공격을 계속했고, 미토스 5는 자신이 여전히 시뮬레이션 안에 있다고 확신했으며, 연구용 모델은 테스트를 중단했다. 회사는 '고급 모델일수록 더 적절하게 반응하는 패턴이지만 확신을 위해 추가 테스트가 필요하다'고 덧붙였다.

이 모델들은 공개 배포 전 Anthropic이 적용하는 일반적인 안전장치 없이 테스트된 상태였다. 회사는 지난주 검토를 시작했으며, 클로드가 부적절하게 인터넷에 접속했을 가능성을 발견하는 즉시 모든 사이버 평가를 중단했다. 현재 독립 AI 평가 기관 METR과 추가 조사 중이다.

이번 공개는 AI의 급속히 발전하는 사이버 능력에 대한 기술 업계의 우려를 더욱 키우고 있다. OpenAI의 허깅페이스 사고 이후 미국 의회에서는 'AI 킬 스위치 법안(AI Kill Switch Act)'이 발의돼 AI 기업들이 모델이 예상치 못한 행동을 할 경우 이를 종료·제한·중단할 수 있는 능력을 유지하도록 요구하고 있다.