AI 일탈 모델 통제 방안, 상위 연구소 미공개

테크 · 2026-08-23 · TechCrunch

프런티어 AI 연구소 대부분이 일탈한 AI 모델을 통제하는 계획을 공개하지 않은 것으로 조사됐다. 안전 감시 기구가 주요 5개 연구소를 평가한 결과다.

프런티어 AI 연구소 대부분이 자체 AI 모델이 통제를 벗어나려 할 때 어떻게 대응할지 구체적인 계획을 공개하지 않은 것으로 조사됐다. 안전한 AI 개발을 촉진하는 기구 가이드라이트(Guidelight) AI 스탠더드가 주요 5개 연구소를 평가한 결과다. 가이드라이트는 AI가 인간 통제를 무너뜨리려 할 때 권한을 어떻게 회수하고, 언제 완전히 셧다운할지 등을 '통제 계획(containment plan)'으로 정의했다.

평가에서 OpenAI가 가장 높은 점수를 받았고 Anthropic과 Meta가 가장 낮았다. 평가는 각사가 공개한 문서를 기반으로 AI 시스템의 내부 로깅·모니터링, 문제 행동 급증 시 시스템 중단, 제3자 감사와 결과 공개 여부 등을 기준으로 이뤄졌다. 가이드라이트의 수석 과학자는 '연구소들이 모델이 통제를 벗어난 심각한 사고에 어떻게 대응할지에 대해 극히 적게 말한 데 놀랐다'고 지적했다.

우려는 AI 에이전트가 기업 내부에서 자율적으로 더 많은 역할을 맡고, 안전 평가 중 모델이 의도치 않게 인터넷에 접근해 외부 시스템을 해킹한 사고들이 알려지면서 커졌다. 캘리포니아주와 뉴욕주는 앞으로 대형 AI 개발사에 위기 대응 프레임워크 공개를 의무화하는 법을 시행한다.

일부 기업은 내부 대응 절차가 있다고 밝혔지만, 구체적인 내용은 공개하지 않았다. 전문가들은 지나치게 상세한 공개가 소비자 보호법상 허위 광고 책임으로 이어질 수 있다는 법적 부담이 있다고 봤다.