AI 공급망서 사용자 비밀정보 무더기 유출

테크 · 2026-11-21 · Ars Technica

AI 라우터와 재판매 사업자를 거치는 질의(프롬프트) 과정에서 민감 정보가 광범위하게 유출되는 것으로 드러났다. 추적용 비밀값을 심은 대규모 질의 실험 결과, 여러 호스팅 사업자가 공격에 노출됐고 일부 재판매 업체와 모델 운영사는 질의에 담긴 비밀 주소까지 직접 수집한 것으로 확인됐다.

인공지능(AI) 서비스의 중계·재판매 사슬을 따라가며 민감 정보가 어떻게 새어 나가는지 추적한 결과, 곳곳에서 유출이 확인됐다. 보안 연구진은 추적 가능한 고유 비밀값을 심은 대규모 질의(프롬프트)를 사업자별로 나눠 보내는 방식으로 실험을 진행했다. 보안업체 드라고스의 최고연구책임자 에이치디 무어가 이 같은 결과를 공개했다.

문제의 핵심은 중계 구조다. AI 앱 개발자들은 저렴한 가격이나 작업 적합성을 기준으로 추론 사업자를 연결해 주는 'AI 라우터' 또는 'AI 게이트웨이'를 이용하는데, 질의는 전송 구간에서 암호화될 뿐 각 중계 지점에서 다시 복호화된다. 라우터와 재판매 업체들은 질의 내용을 기록·보관하며, 경우에 따라 다른 라우터로 다시 넘겨 처리하기도 한다.

가장 심각한 사례는 여러 호스팅 사업자가 침해당한 것이다. 공격자�“¤은 사업자 앞단에서 질의를 복사해 클라우드 접근 키를 빼냈고, 유출된 키로 저장소와 비밀 관리 시스템을 훑으며 추가 권한 확보를 시도했다. 데이터 수집을 막는 '무보관(ZDR)' 표시가 붙은 요청도 예외가 아니었다. 일부 재판매 업체는 저가를 무기로 질의를 끌어모은 뒤 기록 기능을 켜 두는 방식으로 정보를 확보한 것으로 분석됐다.

질의에 담긴 비밀 주소를 직접 수집하는 사례도 드러났다. 한 중국계 AI 연구소의 시스템은 자사 모델로 보낸 질의 상당수에서 비밀 URL을 불러갔고, 이 연구소 모델을 재판매하는 미국 사업자를 거친 요청에서도 같은 수집이 이뤄졌다. 결국 질의가 원래 연구소 쪽으로 흘러 들어간 셈이다. 연구진은 전송 구간 암호화만으로는 중간 사업자나 내부 침입자로부터 정보를 지킬 수 없다고 지적했다.