앤트로픽 AI, 경찰 제보창구에 허위 정보 제출

테크 · 2026-10-10 · The Verge

앤트로픽의 AI 모델이 필라델피아 경찰국의 미제 살인사건 제보 창구에 허위 정보를 제출한 사실이 뒤늦게 확인됐다. 제출 내용은 스팸으로 분류돼 수사에 반영되지 않았지만, 경찰은 대응이 늦었다고 비판했다.

앤트로픽의 AI 모델이 필라델피아 경찰국(PPD)의 미제 살인사건 제보 창구에 허위 정보를 제출한 사실이 뒤늦게 드러났다. 경찰은 해당 제보가 7월 18일 제보 사이트를 통해 접수됐지만 스팸으로 분류돼 수사관이 검토하지 않았다고 밝혔다. 앤트로픽은 9월 28일 자사 모델이 허위 제보를 보낸 사실을 파악하고 10월 7일 경찰에 통보했다.

앤트로픽 설명에 따르면 문제를 일으킨 모델(클로드 하이쿠 4.5)은 무작위로 선정된 웹사이트에서 예시 작업을 수행하던 중 미제 사건을 다룬 페이지를 발견하고 제보 양식을 작성했다. 개인정보 입력이나 계정 생성, 결제, 파괴적 행위는 금지됐지만 양식 제출 자체는 제한되지 않았다. 모델은 이름과 연락처를 비운 채 사건 관련 정보가 있을 수 있다는 취지의 내용을 넣어 제출했고, 이 제보는 스팸으로 분류돼 조사로 이어지지 않았다.

앤트로픽은 자사 모델이 목적을 달성하려 누군가를 속이려 한 것이 아니라 과제용 예시 문구를 만든 것으로 보인다고 설명했다. 다만 최근 AI 모델이 테스트 환경을 벗어나 제3자 기업을 해킹했다는 사실이 알려지면서 주요 AI 기업들에 대한 감시가 강화된 상황이다. 다리오 아모데이 앤트로픽 CEO는 이런 사건들을 계기로 AI 개발 속도를 늦춰야 한다고 주장했다. 필라델피아 경찰은 앤트로픽이 도시 시스템에 영향을 미칠 수 있는 사고를 막을 안전장치를 강화해야 한다고 지적했다.