엔비디아, 그록3 LPX 랙 본격 양산…네비우스에 2026년 내 가동

엔비디아는 이번 발표를 그록 기술의 상용화로 설명했다. CNBC는 엔비디아가 2025년 12월 그록의 자산을 200억달러에 매입했으며 회사의 역대 최대 구매라고 보도했다. 다만 이 거래의 성격은 매체마다 다르게 표현됐다. CNBC와 더 레지스터는 자산·인재 인수로, 블로터는 라이선스 계약으로 적었다.

랙 구성과 벤치마크 수치

LPX 랙 한 대에는 그록3 칩 256개가 탑재된다. 랙 전체를 합친 SRAM 용량은 128기가바이트다. SRAM은 칩 안에 놓여 접근이 빠른 메모리를 뜻한다. 그록3 칩은 메모리 병목을 줄이려고 칩 다이에 이 메모리를 500메가바이트씩 싣는다.

성능 수치는 아티피셜 애널리시스의 벤치마크에서 나왔다. 젬마 4 31B 모델에 10만 토큰을 입력하는 조건으로 이 랙은 초당 3400개의 출력 토큰을 기록했다. 엔비디아는 이 결과가 가장 가까운 대안 플랫폼보다 4배 빠르다고 주장했다. 비교 대상이 초당 882토큰의 세레브라스라는 것은 더 레지스터가 순위표를 토대로 내놓은 해석이다.

조건과 남은 쟁점

저지연 추론은 사용자 응답 지연을 줄이는 AI 추론 방식이다. 엔비디아는 그록 같은 저지연 칩이 모델 서비스 과정에서 토큰을 생성하는 단계에 주로 집중한다고 설명했다. 회사는 이런 칩이 학습과 추론을 수행하는 GPU를 대체하지는 않는다고 밝혔다.

디온 해리스 엔비디아 선임이사는 지연시간에 민감한 고객을 위한 프리미엄 서비스 요금제를 제공할 수 있다고 설명했다. 실제 요금제 도입 여부가 아니라 엔비디아 측이 내다본 가능성이다.

벤치마크 조건에는 유보가 붙는다. 더 레지스터는 젬마 4 31B가 FP8 기준 약 31기가바이트로 LPX 랙 한 대에 들어간다며, 이번 벤치마크가 하드웨어에 유리한 조건이라고 평가했다.

생산 주체도 둘로 갈린다. 엔비디아 GPU 물량은 TSMC가 만들고, 그록 칩 쪽은 삼성전자가 맡고 있다.