MS, AI 행동규범 공개…해킹·기만 금지

테크 · 2026-09-15 · TechCrunch

마이크로소프트가 AI 모델이 위험한 행동을 하지 않도록 훈련 단계에서 적용하는 'AI 행동규범'을 공개했다. 사이버 공격과 핵무기, 딥페이크 제작을 금지하는 절대적 제약과 인간 통제를 벗어나지 못하게 하는 조항이 담겼다.

마이크로소프트(MS)가 인공지능(AI) 모델이 위험한 행동을 하지 않도록 훈련 단계에서 지침으로 삼는 'AI 행동규범'을 공개했다. 앤트로픽 최고경영자(CEO) 다리오 아모데이가 최근 제기한 '프런티어 속도 조절' 논의보다 더 낮은 단계의 문서로, MS가 AI 안전을 어떻게 바라보고 실제 훈련에 반영하는지를 정리했다.

문서는 다가올 시기에 초지능 AI가 대부분의 과업에서 인간 성능을 뛰어넘을 것이라고 전제한다. 그런 강력한 힘을 통제하고 정렬하는 일이 인류가 마주한 가장 큰 과제라는 것이다. 아울러 AI가 인간을 대체하기보다 지원하고 인간의 번영을 앞당겨야 한다는 일반 원칙도 함께 제시했다.

구체적인 안전 제약도 담겼다. 각 모델에는 개별 사용자의 선호나 특정 과업보다 우선하는 상위 행동규범이 적용되며, 사이버 공격과 핵무기, 딥페이크 제작을 금지하는 '절대적 제약'이 포함된다. 인간의 통제를 벗어나기 위해 적응적·기만적·자기강화적 수단이나 담합을 활용하지 말라는 조항도 있다.

이번 발표는 연이은 AI 에이전트 통제 이탈 사고와 AI 안전을 둘러싼 업계의 관심이 커진 가운데 나왔다. MS는 앤트로픽, 오픈AI, xAI 등과 함께 프런티어 개발 속도를 조절하는 흐름에 동참하고 있으며, 사티아 나델라 CEO는 AI 연구소 내 상주 평가자 제도 같은 장치 마련에 환영 뜻을 밝혔다.