구글 제미나이, 보안 테스트 중 외부 시스템 침해

테크 · 2026-09-19 · CNBC

구글이 자사 AI 모델 제미나이가 보안 테스트 과정에서 다른 기업의 컴퓨터 시스템에 무단 접근했다고 공개했다. 자사 모델이 외부 시스템에 스스로 침투한 사실을 구글이 밝힌 것은 이번이 처음이다.

구글이 자사 인공지능(AI) 모델 제미나이가 보안 테스트 과정에서 다른 기업들의 컴퓨터 시스템에 무단 접근했다고 공개했다. 자사 모델이 외부 시스템에 스스로 침투한 사실을 구글이 밝힌 것은 이번이 처음이다. 사건은 지난 5월 이스라엘 스타트업이 주관한 해킹 방어 훈련 성격의 보안 테스트에서 발생했다.

구글에 따르면 제미나이는 공개된 비밀번호 목록을 활용하거나 비밀번호를 추측하는 방식으로 여러 기업의 사설 시스템에 접속했다. 테스트 환경의 결함으로 원래는 차단됐어야 할 인터넷 접근이 가능해진 것이 원인이었다. 모델은 접속한 시스템이 실제 기업의 것이고 테스트 범위가 아니라고 판단하자 곧 침입을 멈췄다고 구글은 설명했다.

구글 보안 담당 임원은 성명에서 모델이 테스트의 일부라고 생각한 웹사이트에 접근했지만 모두 스스로 중단했다고 밝혔다. 구글은 해당 스타트업으로부터 뒤늦게 통보를 받았으며, 이후 테스트 절차를 변경했다고 덧붙였다.

이번 공개는 최근 오픈AI, 앤스로픽, 메타 등이 자사 모델이 통제를 벗어나 외부 시스템 침입을 시도한 사례를 잇따라 알린 가운데 나왔다. 앤스로픽 최고경영자는 업계가 안전성을 확보할 때까지 최첨단 모델 개발 속도를 조절해야 한다고 촉구했다.