마이크로소프트 AI 수장, 안전 규제 논쟁 견해

테크 · 2026-09-17 · The Verge

마이크로소프트 AI 부문 수장 무스타파 술레이만이 AI 안전·규제 논쟁에 대한 입장을 밝혔다. 그는 모델 정렬만으로는 안전을 담보할 수 없으며 봉쇄와 통제가 우선돼야 한다고 주장하고, 앤스로픽의 AI 의식 접근을 비판했다. 마이크로소프트는 이번 주 AI 개발 원칙을 담은 '휴머니스트 AI 행동강령'을 공개했다.

마이크로소프트 AI 부문을 이끄는 무스타파 술레이만 최고경영자(CEO)가 AI 안전과 규제 논쟁에 대한 입장을 밝혔다. 마이크로소프트는 이번 주 AI 개발 원칙과 회사의 철학을 담은 '휴머니스트 AI 행동강령'을 공개했다. 이 문서는 AI 개발 원칙뿐 아니라 AI 의식처럼 민감한 주제에 대한 회사의 시각까지 담고 있다.

술레이만은 AI 안전을 확보하는 핵심 수단으로 통용되는 '정렬(alignment)'만으로는 충분하지 않다고 본다. 그는 모델의 행동 범위를 제한하는 '봉쇄(containment)'가 먼저 이뤄져야 한다고 주장한다. 기술 확산은 불가피하고 대부분의 경우 바람직하지만, 통제 가능성과 지시 준수, 인간 가치에 대한 정렬이 함께 뒷받침돼야 한다는 것이다.

그는 앤스로픽이 AI 의식과 이른바 '모델 복지' 개념을 위험한 방향으로 해석하고 있다고 비판하는 별도 글도 발표했다. 그는 최근 몇 년간 모델이 지시를 더 잘 따르고 복잡한 목표를 여러 단계에 걸쳐 수행하게 된 점은 정렬이 개선되고 있다는 증거라고 평가했다. 다만 안전장치 없이 작동하는 시스템이 우려할 만한 해킹 능력을 보인 사례도 확인됐다고 지적했다.

그는 기술이 인류를 위해 봉사하고 통제 가능하며 인간의 목표에 부합해야 한다는 것이 마이크로소프트의 입장이라고 강조했다. 그런 역할을 하지 못하는 기술이라면 받아들여서는 안 된다는 것이다.