MS, AI 에이전트 감시 보안 제품 공개

테크 · 2026-10-20 · TechCrunch

마이크로소프트가 기업이 쓰는 AI 에이전트를 감시·통제하는 보안 기능을 내놨다. 나델라 CEO는 모델 제공업체의 안전 보장만으로는 부족하다며 에이전트를 '내부 위협'으로 다뤄야 한다고 경고했다.

마이크로소프트(MS)가 기업이 도입한 AI 에이전트를 감시·통제하는 보안 제품군을 공개했다. 핵심은 회사가 사용하는 AI 에이전트를 별도로 지켜보는 '가디언 에이전트'로, 6월 선보인 '프로젝트 퍼셉션'의 일부다. 프로젝트 퍼셉션은 공격을 시뮬레이션하는 레드팀, 취약점을 찾는 블루팀, 이를 고치는 그린팀 등 세 갈래 에이전트로 구성됐다.

MS는 그동안 AI 해커가 기업 외부에서 온다고 전제했지만, 최근 사티아 나델라 CEO는 위협이 기업이 직접 도입하고 비용을 지불하는 에이전트 자체일 수 있다고 경고해 왔다. 그는 모델 제공업체의 안전 보장만으로 책임을 다할 수 없다며, AI 연구소가 통제하지 않는 별도 시스템으로 에이전트를 감시해야 한다고 주장했다. 보안 사업 총괄도 출처와 무관하게 최전선 모델은 신뢰할 수 없으며, 악의적이어서가 아니라 예측 불가능하기 때문이라고 설명했다.

MS는 디펜더에 직원들이 업무에 들여오는 클로드 코드, 코드엑스, 오픈클로 등 최대 60종의 에이전트를 탐지하는 기능도 추가했다. 데이터·시스템 접근을 제한하고, 위험한 결정을 내릴 것으로 보이면 사람의 승인을 요구하도록 권한을 조정하는 기능도 넣었다.

이 같은 '에이전트 불신' 흐름은 업계 전반으로 번지고 있다. MS는 엔비디아가 출범한 오픈 에이전트 안전 플랫폼에 창립 멤버로 참여했고, 100여 개 기술기업이 여기에 동참했다. 이 플랫폼은 에이전트를 격리된 환경에 두고 하드웨어 수준에서 감시·차단하는 킬 스위치 역할을 한다. MS로서는 자사 클라우드에서 보안 제품을 사도록 유도하는 이해관계가 걸려 있지만, 감시 소프트웨어는 에이전트 공급자로부터 독립돼야 한다는 논리 자체는 업계의 공감을 얻고 있다.