AI 안전성 평가 독립성 확보 촉구

테크 · 2026-09-18 · CNBC

100명이 넘는 AI 전문가와 평가자들이 제3자 안전성 평가자의 독립성과 보호 장치를 보장하라는 공개 서한을 발표했다. 앤트로픽의 '직원급 접근권' 제안을 계기로 평가자 역할이 부각되는 가운데, 빅테크의 자체 설명에 의존해선 안 된다는 지적이 나온다.

인공지능(AI) 안전성 평가의 독립성을 둘러싼 논쟁이 본격화하고 있다. 100명이 넘는 AI 전문가와 평가자들이 제3자 평가자의 독립성과 보호 장치를 보장하라는 공개 서한을 금요일 발표했으며, CNBC가 이를 단독 입수했다. 서한은 AI Evaluator Forum 컨소시엄이 주도했고, 제프리 힌턴을 비롯해 존스홉킨스대·스탠퍼드대, 비영리 평가기관 METR 등이 서명했다.

서한은 최전선 AI 기업들이 제3자 평가자를 내부에 받아들이더라도 이들에게 '과학적 객관성, 투명성, 독립성, 견고한 보호'가 보장돼야 한다고 요구한다. 특히 평가자가 소속된 기업으로부터 보복당하지 않도록 보호할 것과 기술에 대한 투명성 확대를 명시했다. 컨소시엄 의장인 콘래드 스토스는 특정 규제 방식을 주장하는 것이 아니라 기본 원칙과 표준화를 마련하려는 것이라고 설명했다.

배경에는 앤트로픽의 다리오 아모데이 CEO가 평가자들에게 '직원에 준하는 접근권'을 주자는 제안이 있다. 샘 알트만, 일론 머스크, 사티아 나델라 등이 공개 지지했지만 누가 평가자가 될지, 어디까지 들여다볼지는 정해지지 않았다. 반면 트럼프 대통령과 데이비드 색스 전 AI 차르는 정부의 AI 규제에 반대해 왔다.

미국외교협회(CFR) 선임연구원이자 전 미국 국가안보국(NSA) 최고AI책임자인 빈 응우옌은 소수 기업이 사이버보안과 핵심 인프라를 좌우하는 상황에서 정부와 대중이 기업의 자체 설명에 의존해선 안 된다고 지적했다. 스토스 의장은 기업들이 서한을 무시할 수도 있지만 신뢰도가 걸린 문제라고 말했다.