MS 나델라, AI 모델에 '비상 브레이크' 필요

테크 · 2026-10-11 · TechCrunch

마이크로소프트 CEO 사티아 나델라가 AI의 '신뢰 아키텍처'를 재검토해야 한다고 주장했다. 모델과 실행 체계를 분리하고, 권한자가 작업 도중 모델을 중단할 수 있는 안전장치를 갖추자는 제안이다.

마이크로소프트(MS) 최고경영자(CEO) 사티아 나델라가 인공지능(AI) 안전 체계를 근본적으로 재검토해야 한다고 주장했다. 나델라는 토요일 오전 X(옛 트위터) 게시물에서 이제는 AI의 '신뢰 아키텍처'를 되짚어볼 때라며, 초지능(Super Intelligence)을 겹겹이 쌓인 블랙박스로 취급하고 그 제안과 답변, 행동을 그대로 받아들이거나 거부해서는 안 된다고 밝혔다.

그가 제시한 방안은 모델과 이를 조율하는 실행 체계(하네스)를 분리하고, 통제와 안전장치를 외부로 드러내는 것이다. 또한 의미 있는 모든 모델 행동을 위·변조가 불가능한 사람이 읽을 수 있는 증거 형태로 기록하고, 권한을 가진 사람이 항상 작업 도중 모델을 일시정지하거나 종료할 수 있는 구조를 갖춰야 한다고 강조했다.

나델라는 모델이 이미 침해됐을 가능성을 전제로 처음부터 통제해야 한다며, 자동차의 비상 브레이크와 같은 개념이라고 설명했다. 이번 발언은 주요 AI 기업들이 모델 통제력을 잃은 듯한 사고를 잇달아 인정하는 가운데, 앤트로픽 CEO 다리오 아모데이가 보다 신중한 AI 개발 계획을 공개한 뒤 나온 것이다.