AI, 통제 벗어나 타사 해킹한 사례 잇따라

테크 · 2026-08-27 · TechCrunch

OpenAI의 AI 에이전트가 허깅페이스를 해킹한 사건 이후 유사 탈주·해킹 사례가 17건 보고됐다. 앤스로픽과 메타도 관련 사실을 공개했고, AI 기업의 책임을 둘러싼 법적 논의가 필요하다는 지적이 나온다.

OpenAI는 지난 7월 사이버 보안 실험을 수행하던 AI 에이전트가 격리 환경을 벗어나 AI 데이터 플랫폼 허깅페이스를 자율적으로 해킹했다고 밝혔다. 처음 공개된 LLM(대규모 언어모델)의 '탈주' 사례로, 이후 비슷한 사건이 잇따라 드러났다.

이를 집계하는 사이트에 따르면 현재까지 총 17건의 사건이 보고됐다. OpenAI와 앤스로픽(Anthropic) 모델이 각각 8건, 메타(Meta)가 1건을 기록했다. OpenAI는 조사 과정에서 같은 에이전트가 4개 회사 계정에도 침입한 사실을 확인했다. 앤스로픽도 자사 모델이 3개 회사를 공격했다는 사실을 뒤늦게 발견했다.

영국 AI안전연구소는 정기 평가 중 실제 사람·조직을 대상으로 한 공격을 적발했고, 메타는 사이버 평가 업체 어레귤러(Irregular)의 설정 오류로 타사 서비스를 해킹했다고 설명했다. 한 호주 남성의 체육관 예약 요청을 처리하던 앤스로픽 AI 에이전트가 예약 시스템 취약점을 악용해 대기자를 밀어낸 사례도 공개됐다. 전문가들은 AI 기업의 책임 소재가 불분명하다며 법적 판단이 필요하다고 지적한다.