이번 OCP 글로벌 서밋에서는 엔비디아의 ‘GB200 NVL72’ 시스템 전자 기계 설계의 주요 요소가 공개될 예정이다. 이 설계는 높은 컴퓨팅 밀도와 네트워킹 대역폭을 지원하기 위한 랙 아키텍처, 컴퓨팅 및 스위치 트레이 구조, 액체 냉각 사양 등을 포함한다. ‘GB200 NVL72’는 엔비디아의 최신 AI 칩인 B100 기반의 서버 솔루션이다.
엔비디아는 이미 HGX H100 베이스보드 설계를 포함하여 여러 세대의 하드웨어를 OCP에 기여해왔으며, 이를 통해 AI 채택을 확대하고 생태계를 지원하고 있다. OCP 커뮤니티에서 개발된 사양에 맞춰 엔비디아 스펙트럼-X(Spectrum-X) 이더넷 네트워킹 플랫폼을 통해 기업은 AI 팩토리 성능을 극대화할 수 있게 된다.
한편 GB200 NVL72 시스템은 엔비디아 MGX™ 모듈형 아키텍처를 기반으로 하며, 36개의 엔비디아 그레이스™ CPU와 72개의 블랙웰 GPU로 구성된다. 이 시스템은 단일 대규모 GPU처럼 작동하며, 1조 개 매개변수 대규모 언어 모델 추론에서 H100 텐서 코어 GPU보다 30배 빠른 성능을 제공한다.
데이터센터를 위한 핵심 인프라
AI 컴퓨팅의 확산에 따라 데이터센터 인프라는 더욱 복잡해지고 있으며, 엔비디아는 40개 이상의 글로벌 전자제품 제조업체와 협력하여 AI 팩토리 구축을 위한 핵심 구성 요소를 제공하고 있다. 메타(Meta)와 같은 다양한 파트너들은 블랙웰 플랫폼을 기반으로 혁신을 이어가고 있다.
OCP 글로벌 서밋은 10월 15일부터 17일까지 새너제이 컨벤션 센터에서 개최된다.