엔비디아의 AI 경쟁력, GPU 넘어 시스템으로

테크 · 2026-08-29 · TechCrunch

엔비디아의 AI 우위가 GPU 자체에서 데이터센터 전체를 움직이는 오케스트레이션 시스템으로 확장되고 있다. 경쟁사들이 자체 칩을 내놓으며 GPU 경쟁이 치열해지자, 엔비디아는 주변 인프라에서 새 돌파구를 찾는 중이다.

AI 붐 초기 엔비디아는 최첨단 GPU의 사실상 유일한 공급처였고, 산업이 확장되면서 막대한 수익을 올렸다. 그러나 아마존과 구글 같은 하이퍼스케일러들이 자체 칩을 만들기 시작하면서 GPU 경쟁이 본격화됐고, 투자자들은 엔비디아의 우위가 얼마나 오래갈지 의문을 품어왔다. 실제로 엔비디아 시가총액은 2023년 초부터 2025년 중반까지 10배 성장한 뒤, 지난 1년간은 GPU 경쟁 우려로 상승세가 다소 둔화된 모습이다.

이번 주 실적 발표 이후에는 새로운 흐름이 주목받고 있다. AI 연산 규모가 기가와트 수준으로 커지면서 데이터센터 전체를 관리하는 오케스트레이션 작업이 매우 복잡해졌고, 엔비디아는 GPU 주변 시스템을 위한 첨단 하드웨어를 다수 구축해왔다. 실제로 엔비디아는 현재 베라 루빈(Vera Rubin) 아키텍처를 선보이며, 루빈 GPU를 베라 CPU, 추론 가속기, 스토리지 및 네트워킹 랙 등과 함께 패키지로 판매하고 있다.

베라 CPU는 데이터 오케스트레이션에 초점을 맞춘다. 엔비디아 스토리지 기술 부문 부사장은 베라 CPU가 가속을 가능하게 해 일부 작업에서 최대 3배의 성능 향상을 확인했으며, 병목 없이 플래시의 잠재력을 최대한 활용할 수 있게 됐다고 설명했다. 이런 문제는 엔비디아 밖에서도 나타난다. 오픈AI가 개발한 칩도 데이터 이동을 최소화해 통신 지연을 줄이고, 전체 워크로드를 하나의 통합 시스템 안에서 처리하도록 설계된 점이 대표적이다.

데이터 오케스트레이션 경쟁은 처음부터 엔비디아의 승리를 보장하지는 않는다. 라이벌 칩 제조사와 하이퍼스케일러와의 경쟁이 여전히 남아 있기 때문이다. 다만 경쟁의 무대가 GPU 자체에서 전체 시스템의 효율을 좌우하는 새로운 계층으로 옮겨갔고, 적어도 초기 단계에서는 엔비디아가 확실한 우위를 점하고 있다는 평가가 나온다.