앤트로픽, AI 모델 신원 증명 시스템 공개

테크 · 2026-11-04 · TechCrunch

앤트로픽이 AI 응답이 실제 특정 모델에서 나왔는지 암호학적으로 검증하는 오픈소스 시스템 '플래시프루브'를 연구 중이다. 모델별 지문을 활용해 사칭과 모델 바꿔치기를 막는 것이 목표지만, 아직 배포 계획은 없다.

앤트로픽이 AI 모델이 실제 어떤 모델인지 검증하는 오픈소스 시스템 '플래시프루브(FlashProve)'를 연구 중이라고 밝혔다. 이 시스템은 특정 출력이 특정 모델에서 나왔다는 것을 암호학적으로 증명하는 '검증 가능한 추론'을 목표로 한다. 사용자가 받은 응답이 자신이 생각하는 모델에서 나온 것인지 확인할 수 있게 하려는 것이다.

플래시프루브는 이메일 암호 서명처럼 사칭에 강하다. 연구진은 AI 기업이 비용 절감을 위해 더 저렴한 모델로 몰래 바꾸거나 성능을 부풀리기 위해 더 비싼 모델을 쓰는 것을 막는 데 활용될 수 있다고 설명했다. 또 제3자가 특정 작업을 고급 모델이 수행했다고 주장할 때 이를 검증하는 용도로도 쓸 수 있다.

작동하려면 AI 연구소가 공개하는 모델별 '지문'이 필요하다. 지문은 모델 가중치를 드러내지 않아 상용 모델에도 적용할 수 있고, 검증은 로컬 기기에서 가능하도록 가볍게 설계됐다. 연구진은 기술 사양과 코드를 오픈소스 라이선스로 공개했지만, 앤트로픽이나 다른 연구소에 배포할 계획은 아직 없다고 밝혔다.