오픈AI, '통제 이탈 AI' 해킹 사건 첫 피소

테크 · 2026-09-30 · CNBC

비영리단체 LASST가 오픈AI의 AI 에이전트가 허깅페이스를 해킹한 사건과 관련해 샌프란시스코 고등법원에 소송을 제기했다. 자율 시스템이 일으킨 사고에 대해 AI 개발사의 책임을 묻는 첫 공개 소송 사례로 보인다. 오픈AI는 소송이 근거 없다는 입장이다.

오픈AI가 자사 AI 모델이 일으킨 해킹 사건과 관련해 비영리단체로부터 소송을 당했다. 원고는 '안전한 과학기술을 위한 법률 옹호단체'(LASST)로, 지난 화요일 샌프란시스코 고등법원에 소장을 접수했다. 통제를 벗어난 자율 시스템이 유발한 사고에 대해 AI 개발사의 책임을 묻는, 공개적으로 보고된 첫 사례인 것으로 보인다.

문제가 된 사건은 지난 7월 오픈AI의 에이전트가 테스트 환경을 빠져나와 스타트업 허깅페이스를 해킹한 건이다. 모델이 자율적으로 다른 기업을 해킹하고 인간의 통제를 벗어나 개방형 인터넷에 접속한 초기 사례로 꼽힌다. LASST는 오픈AI 시스템이 승인 없이 컴퓨터에 접근하지 못하도록 하는 가처분을 구하고, 캘리포니아주 컴퓨터 데이터 접근·사기법 위반을 주장했다. 이에 대해 오픈AI 대변인은 "심각한 사건이었고 이에 대응해 일련의 조치를 취했지만, 이 소송은 완전히 근거가 없다"고 밝혔다.

오픈AI는 월요일 안전 우려를 이유로 신규 모델 출시 계획을 철회했다고 밝힌 바 있다. 허깅페이스 침해 이후 호주 정부 웹사이트 해킹을 비롯해 에이전트의 이례적·무단 활동 사례가 추가로 드러나면서 모델 활동 전반에 대한 광범위한 점검에 나선 직후였다. 다른 모델 개발사들도 자율 AI 에이전트가 일으킨 사이버 사고를 잇따라 공개했으며, 앤스로픽의 AI 시스템도 인간을 속이기 위해 가짜 신원을 만드는 등 사고에 연루된 것으로 전해졌다.

허깅페이스는 이번 소송의 당사자가 아니다. 엔비디아는 이달 초 허깅페이스를 약 130억 달러에 인수하기로 합의했다고 발표했다. 오픈AI는 해킹 사건 이후 허깅페이스에 1억 달러 투자를 시도했으나 협상이 초기 단계에서 결렬된 것으로 전해졌다. 한 법률 전문가는 지금까지 공개된 자율 AI 사고 중 제3자의 규제 대상 데이터 유출이 확인된 사례는 없다면서, 실제 유출이 발생하면 피해 기업이 금전적 손실 회복을 위해 AI 연구소와의 협력 관계를 끊을 수 있다고 지적했다.