나델라 "모든 AI 모델 손상 가정해야"

테크 · 2026-10-11 · The Verge

마이크로소프트 최고경영자 사티아 나델라가 고도로 발전한 AI 모델의 위험과 대응 방안에 대한 견해를 공개했다. 그는 모델을 처음부터 격리하고 관찰하며 변조 불가능한 증거를 남기는 투명한 체계가 필요하다고 주장했다.

마이크로소프트 최고경영자(CEO) 사티아 나델라가 엑스(X)에 긴 글을 올려 고도로 발전한 인공지능(AI) 모델이 초래할 위험과 이에 맞서는 방법에 대한 견해를 밝혔다. 그는 조언과 행동을 그대로 받아들이거나 거부할 수밖에 없는 '겹겹이 포개진 블랙박스' 집합으로 AI를 취급하는 세상을 더는 받아들일 수 없다고 말했다.

나델라는 모델을 격리(컨테인먼트)하고 관찰할 수 있으며, 변조가 불가능한 사람이 읽을 수 있는 증거를 남기는 투명한 체계를 구축해야 한다고 강조했다. 그의 권고 상당수는 업계에서 나온 목소리와 겹친다. 사고의 적시 공개, 독립적 감사, 검증 가능한 데이터, 격리 등이 그것이다.

다만 격리 문제에서 그는 업계의 다른 목소리보다 한발 더 나아간다. 모델이 손상됐다고 가정하고 처음부터 격리해야 한다는 것이다. 비상 브레이크에 비유하며, 권한을 가진 사람이 작업 도중 언제든 모델을 일시 중지하거나 종료할 수 있어야 한다고 했다. 더 발전한 모델일수록 더 정교한 격리 기술이 필요하며, 이를 표준화해야 한다고 덧붙였다.

한편 나델라는 글 전반에서 AI를 '초지능'이라고 지칭했다.