엔비디아와 오라클, 엔비디아 베라 루빈 멀티 기가와트 규모로 확장 및 엔비디아 베라 CPU OCI에 도입

엔비디아와 오라클이 오라클 클라우드 인프라스트럭처(OCI) 슈퍼클러스터를 멀티 기가와트 규모로 확장해 초대형 AI 모델 훈련과 추론, 에이전틱(Agentic) 애플리케이션 수요를 뒷받침한다. 양사는 이를 위해 엔비디아 베라 루빈 NVL72(NVIDIA Vera Rubin NVL72) 시스템을 OCI에 도입하고, OCI에서 엔비디아 베라 루빈 NVL72와 엔비디아 베라 CPU(NVIDIA Vera CPU)를 정식 출시한다고 발표했다.

이번 협력 확대로 고객은 최첨단 모델의 훈련·운영 등 GPU 집약적 작업은 물론, 도구 실행, 코드 테스트, 데이터 검색 등 모델 호출 사이에 에이전트가 수행하는 CPU 집약적 작업까지 단일 인프라 위에서 처리할 수 있게 된다. 워크로드 특성에 맞춰 CPU와 GPU 리소스를 서로 독립적으로 확장할 수 있어 유휴 자원을 최소화하고 인프라 활용 효율을 끌어올리는 구조다.

OCI 슈퍼클러스터는 엔비디아 NVL72 랙 스케일 시스템과 엔비디아 스펙트럼-6(NVIDIA Spectrum-6) 스위치, 엔비디아 블루필드-4 DPU(NVIDIA BlueField-4 DPU)를 탑재한 엔비디아 스펙트럼-X(NVIDIA Spectrum-X) 이더넷 네트워킹을 결합한 오라클 액셀러론(Oracle Acceleron) 네트워킹, 그리고 기가와트급 전력·냉각 인프라를 통합해 초대형 AI 모델을 훈련하고 서비스하는 플랫폼이다. 각 랙은 엔비디아 NV링크(NVIDIA NVLink) 스케일업 네트워킹을 통해 72개의 GPU를 연결하며, OCI의 복원력이 높은 다중 평면 네트워크(multiplanar network)를 통해 수십만 개의 GPU까지 확장 가능하다.

베라 루빈(Vera Rubin) 아키텍처는 이미 OCI에 구축된 엔비디아 GB200 및 GB300 NVL72 시스템을 포함한 기존 엔비디아 기반 인프라 위에서 확장된다. 공통 CUDA 소프트웨어 스택과 지속적인 소프트웨어 최적화를 통해 고객은 여러 세대의 하드웨어에 걸쳐 진화하는 모델과 워크로드를 지원할 수 있다.

OCI는 여기에 더해 x86 기반 서버 구성에서 NV링크로 연결된 8개의 루빈 GPU를 제공하는 엔비디아 HGX 루빈 NVL8(NVIDIA HGX Rubin NVL8)도 도입할 계획이다. 이 플랫폼은 64코어 인텔 제온 6(Intel Xeon 6) CPU 2개, 4TB DDR5 메모리, 6.4Tbps급 고속 RDMA 네트워킹을 갖춰 AI 훈련, 미세 조정(fine-tuning), 추론에 이르는 다양한 배포 옵션을 제공한다. 고객은 x86 애플리케이션과의 호환성을 유지하면서도 8개 GPU 구성의 비교적 소규모 환경에서 차세대 루빈 GPU 기술을 도입할 수 있다.

이 같은 유연성은 기업이 요구 사항 변화에 맞춰 AI 인프라를 다양한 모델·워크로드에 맞게 조정하도록 돕는다. 훈련과 추론 전 과정에서 가속 컴퓨팅 자원을 적시에 배분함으로써 인프라 투자 효과를 극대화할 수 있다는 설명이다.

실제 사례도 나왔다. 오픈AI(OpenAI)는 텍사스주 애빌린(Abilene)에 구축된, 10만 개 이상의 엔비디아 블랙웰 GPU(NVIDIA Blackwell GPU)가 탑재된 OCI 슈퍼클러스터를 활용해 차세대 모델 GPT-6 아스트라(GPT-6 Astra)를 훈련·운영했다.

스리칸트 포타니스(Sreekanth Pothanis) 오픈AI 컴퓨팅 인프라 엔지니어링 리더는 “최첨단 모델이 발전함에 따라, 이에 발맞출 수 있는 인프라가 필요하다”며 “OCI 기반의 엔비디아 베라 루빈은 모델 훈련을 가속화하고, 점점 더 까다로워지는 AI 워크로드를 처리할 수 있는 컴퓨팅 성능과 확장성을 제공한다”고 말했다.