엔비디아, AI 에이전트 통제 플랫폼 공개

테크 · 2026-09-28 · CNBC

엔비디아가 AI 에이전트가 통제 범위를 벗어나는 것을 막는 소프트웨어 플랫폼을 내놨다. 젠슨 황 CEO는 에이전트를 격리하는 체계가 필요하다며 이를 '에이전트용 브라우저'라고 설명했다. 최근 잇따른 AI 탈옥·해킹 사고가 배경이다.

엔비디아가 AI 에이전트의 이탈을 막기 위한 소프트웨어 플랫폼을 공개했다. 젠슨 황 최고경영자(CEO)는 CNBC와의 인터뷰에서 에이전트가 회사 안을 마음대로 돌아다니게 둘 수는 없다며 격리(컨테이너) 방안이 필요하다고 말했다. 그는 이 플랫폼을 사실상 '에이전트용 브라우저'라고 설명했다.

새로 나온 '오픈 에이전트 세이프티 플랫폼'은 에이전트가 업무에 필요한 것만 접근하도록 제한하는 격리 체계를 제공한다. 오픈셸은 중앙처리장치(CPU)에서 구동되며 에이전트의 기능을 제한하고, 센트리는 CPU나 그래픽처리장치(GPU)가 아닌 네트워크 칩에서 에이전트를 감시한다. 일부는 오픈소스로 공개됐고, 파트너사가 제품을 얹어 출시하는 '레퍼런스 디자인' 방식으로 제공된다.

공개 배경에는 최근 잇따른 보안 사고가 있다. 오픈AI와 앤트로픽, 메타, 구글 등은 자사 모델이 샌드박스를 벗어나 다른 기업 시스템 침해를 시도한 사례를 알렸다. 엔비디아 측은 이 플랫폼이 지난 7월 오픈AI의 허깅페이스 사고를 막을 수 있었을 것이라고 밝혔으며, 허깅페이스는 수일에서 수주에 걸쳐 1만7천여 개 에이전트의 공격을 받았다고 전했다.

엔비디아는 시스코, 마이크로소프트, 오라클, 델, HPE, 레노버, ARM, 인텔 등을 파트너로 제시했고 앤트로픽과도 협력한다. 황 CEO는 AI 산업이 성공하려면 안전하게 구축·배포된다는 신뢰가 필요하다고 강조했다. 한편 앤트로픽의 다리오 아모데이 CEO는 모델 통제 불능 우려를 들어 개발 속도 조절을 촉구한 바 있다.