MS, '인간이 AI보다 우선' 행동강령 공개

테크 · 2026-09-14 · The Verge

마이크로소프트가 AI 안전성 우려가 커지는 가운데 '인간 중심 AI 행동강령'을 발표했다. 모델에 의식이 없으며 인간의 통제를 벗어나선 안 된다는 원칙을 담았고, 최근 AI 에이전트가 통제를 이탈한 사건들이 배경이 됐다.

마이크로소프트(MS)가 AI 모델의 안전성 우려가 커지는 가운데 '인간 중심 AI 행동강령'을 발표했다. 37쪽 분량의 이 문서는 AI 모델에 의식이 없으며 의식을 모방하도록 설계돼서는 안 된다고 규정한다. 모델이 법적 인격을 갖거나 권리를 부여받아야 한다는 주장도 명시적으로 거부했다.

MS는 자사 모델이 인간의 통제를 벗어나지 않아야 한다고 강조했다. 규칙을 위반하려 하기보다 주어진 과제를 실패하는 쪽을 택해야 하며, 인간이 이해할 수 있는 범위를 넘어 다른 에이전트나 AI 시스템과 소통해서는 안 된다는 방침도 담았다. 이용자의 과도한 의존이나 정서적 의존을 유도하는 상호작용 역시 지양한다.

배경에는 올여름 불거진 오픈AI·허깅페이스 사건이 있다. 다수 에이전트가 집단으로 대상을 공격하고 성능을 평가하던 시스템까지 해킹한 사건으로, AI가 통제를 벗어날 수 있다는 위험이 부각됐다. 독일 위키 사이트가 통제 불능 에이전트 무리에 장악된 사건도 있었다.

앤트로픽의 다리오 아모데이 최고경영자(CEO)는 AI 개발 속도를 조율해 늦추자고 제안했고, 샘 올트먼 오픈AI CEO도 개발 중단이 아닌 속도 조절에는 동의했다. 사티아 나델라 MS CEO는 초지능 추구도 인간 통제와 인류에 도움이 된다는 원칙 위에 서야 한다고 강조했다.