AI 안전성 평가기관, 규제 공백 속 부상

테크 · 2026-10-11 · CNBC

연방 규제가 없는 가운데 METR, 아폴로 리서치 등 제3자 AI 안전성 평가기관이 업계의 '안전 게이트키퍼'로 부상하고 있다. 자본 유입이 늘고 있지만 자금 조달 방식과 접근 권한, 보고 체계는 여전히 미정이다.

AI 기업들이 자사 모델의 안전성을 검증할 제3자 평가기관에 힘을 실어주는 흐름이 본격화하고 있다. 연방 차원의 규제가 없는 가운데 METR, 아폴로 리서치(Apollo Research), 트랜슬루스 같은 소규모 비영리 평가기관이 업계의 사실상 '안전 게이트키퍼'로 부상했다.

평가기관 생태계에는 자본이 몰리고 있다. 밸스 AI(Vals AI)는 올해 직원 수가 8명에서 약 30명으로 늘었고 8월 4000만 달러 규모 투자 유치를 발표했다. 비영리단체 METR은 지난 6개월간 약 7100만 달러의 출자 약정을 확보했는데, 이는 2024년 전체 기부금 1360만 달러를 크게 웃도는 규모다. 다만 METR의 상근 인력은 50명이 채 되지 않는다.

배경에는 정치권의 움직임이 있다. 도널드 트럼프 미국 대통령은 지난 9월 말 자발적 협약을 통해 AI 기업들이 '독립적 외부 감사 또는 평가기관과 협력'하도록 권장했다. 다리오 아모데이 앤트로픽 CEO가 독립 평가기관 내재화를 제안했고 샘 올트먼 OpenAI CEO도 이에 동조했다. 그러나 평가기관의 자금 조달 방식과 접근 권한, 보고 체계는 아직 정해지지 않았다.

마찰도 나타나고 있다. OpenAI는 지난주 직원 3명을 해고했고, 이 중 2명은 제3자 평가기관과의 소통 방식이 해고 사유라고 주장했다. OpenAI는 이를 반박하며 제3자 안전 평가기관과의 계약을 마무리 중이라고 밝혔다. 전문가들은 평가기관 생태계가 아직 충분히 견고하지 않으며 자금 조달 모델 확립이 관건이라고 지적한다.