앤스로픽·오픈AI 안전평가관 제안 논란

테크 · 2026-09-16 · CNBC

앤스로픽이 최첨단 AI 기업 내부에 제3자 안전 평가관을 상시 배치하는 방안을 제안했다. 은행 상주 감독관을 선례로 들었지만, 평가관에게 모델 개발·출시를 막을 권한은 주어지지 않아 실효성 논란이 일고 있다.

앤스로픽 최고경영자(CEO) 다리오 아모데이가 최첨단 AI 기업 내부에 제3자 안전 평가관을 상시 배치하는 방안을 제안했다. 그는 은행 감독 당국이 대형 은행에 상주 감독관을 파견하는 관행을 선례로 들었다. 이 제안은 AI 업계와 정부 안에서 규제 논쟁을 촉발했다.

아모데이는 평가관에게 내부 위험관리팀에 준하는 접근 권한과 함께, 회사의 편집 통제를 받지 않고 조사 결과를 공개할 권리를 주겠다고 밝혔다. 다만 모델 학습이나 출시를 막을 수 있는 법적 권한이나 강제 집행 권한은 부여되지 않는다. 오픈AI도 비슷한 안전 조치에 합의했지만 구체적인 운영 방식은 아직 내놓지 않았다.

와이오밍대 로스쿨의 줄리 앤더슨 힐 학장은 은행 감독관이 특정 관행 중단을 지시하고 성장을 제한하며 경영진 교체를 요구하고 최악의 경우 폐쇄까지 할 수 있다고 설명했다. 그런 권한이 없다면 은행 규제와 견주기 어렵다는 것이다. 사이버보안 기업 XBOW의 알베르트 지글러는 평가관들이 미공개 모델에 조기 접근하지만 거부권은 없다고 말했다.

비판도 나온다. 안전 우려를 앞세워 경쟁과 책임에서 스스로를 보호하려는 규제 설계라는 지적이다. 힐 학장은 평가관 선정과 접근 범위를 기업이 통제하고 결론을 무시할 수 있다면 내부 준법 부서와 다를 바 없다고 말했다.