엔비디아가 대만에서 열리는 컴퓨텍스 2024에서 신형 블랙웰 기반 시스템을 공개했다. "차세대 AI 혁신의 물결을 주도할 AI 공장과 데이터센터를 구축할 수 있는" 시스템이라고 회사는 표현했다. 타이페이에서 열린 컴퓨텍스 전시회에서 발표된 이 시스템은 단일 또는 다중 GPU, x86 또는 그레이스(Grace) 기반 프로세서, 공랭식 또는 수랭식 냉각을 사용한다.
엔비디아는 이와 함께 작년 컴퓨텍스에서 발표한 엔비디아 MGX 모듈형 레퍼런스 디자인 플랫폼이 이제 블랙웰 제품을 지원하며, 지난 3월 출시된 GB200 NVL72의 소형 버전인 새로운 엔비디아 GB200 NVL2 플랫폼이 블랙웰 아키텍처 덕분에 데이터 처리 속도가 최대 18배 빨라지고 에너지 효율은 x86 CPU 사용 대비 8배 향상될 것이라고 전했다.
지난 3월 엔비디아의 GTC 행사에서 발표된 블랙웰은 엔비디아의 호퍼 GPU 아키텍처의 후속 아키텍처다. 참고로 그레이스는 Arm 기반 CPU 설계다. GB200 시스템에는 블랙웰 GPU와 그레이스 CPU가 모두 포함되어 있다.
전시회에 앞서 진행된 미디어 브리핑에서 브리핑에서 엔비디아의 가속 컴퓨팅 담당 이사인 디온 해리스는 “GB200 NVL2 플랫폼은 모든 데이터센터에 생성형 AI의 시대를 열어낼 것”이라고 말했다.
현재 10개의 파트너사가 블랙웰 아키텍처를 탑재한 시스템을 제공할 방침이다. 애즈락 랙, 에이수스, 기가바이트, 인그라시스, 인벤텍, 페가트론, QCT, 슈퍼마이크로, 위스트론, 위윈은 자사의 GPU와 네트워킹을 사용하여 클라우드, 온프레미스, 임베디드, 엣지 AI 시스템을 공급할 계획이다.
인포테크 리서치 그룹의 AI 시장 조사 담당 이사인 토마스 랜달은 이메일을 통해 “엔비디아는 인공지능의 혁신을 주도하는 데 필요한 기본 아키텍처와 인프라를 형성하고 지배해 왔다. 이번 발표는 컴퓨터 제조, AI 팩토리의 핵심에 엔비디아 기술이 내장되고 개발자들이 생성형 AI에 광범위하게 액세스할 수 있도록 함으로써 이러한 입지를 뒷받침한다”라고 말했다.
그러나 이러한 성능은 데이터센터 관리자에게 새로운 걱정을 안겨줄 수 있다는 진단도 있다. 포레스터의 알빈 응우옌 수석 애널리스트는 “블랙웰 기반 시스템이 이전 엔비디아 가속기와 마찬가지로 선호되는 AI 가속기가 될 것으로 예상한다. 고출력 제품에는 액체 냉각이 필요하므로 데이터센터 시장에도 변화가 발생할 가능성이 높다. 그러나 모든 데이터센터가 이러한 시스템을 대량으로 지원하는 데 필요한 전력과 물을 공급하기 위해 업데이트할 수 있는 것은 아니다”라고 말했다.
그는 이어 “이로 인해 데이터센터 업그레이드, 신규 데이터센터, 파트너(코로케이션, 클라우드 서비스) 사용, 전력 소모가 적은 경쟁사의 가속기 채택을 위한 지출이 증가할 것”이라고 덧붙였다.
한편 네트워킹 측면에서 엔비디아는 작년 컴퓨텍스에서 공개한 이더넷 기반 AI 클라우드를 위해 설계된 가속 네트워킹 플랫폼인 스펙트럼-X(Spectrum-X)가 이제 일반에 제공된다고 발표했다. 또 아밋 카츠 네트워킹 담당 부사장은 엔비디아가 이에 대한 업데이트 주기를 가속화할 예정이라고 전했다. 매년 새로운 제품을 출시하여 대역폭과 포트를 늘리고 소프트웨어 기능 세트와 프로그래밍 기능을 강화할 예정이라는 설명이다.
포레스터의 응우옌은 남북 트래픽에 최적화된 DPU(데이터 처리 장치)와 동서, GPU 간 트래픽에 최적화된 슈퍼NIC를 갖춘 플랫폼 아키텍처는 합리적이지만 복잡성을 더할 수 있다고 지적했다. “이는 슈퍼팟이나 AI 팩토리와 같은 대규모 AI 솔루션의 채택을 촉진하는 데 도움이 되는 보완적인 솔루션이다. 이를 사용하면 복잡성이 증가하게 된다. 물론 대규모 AI 인프라를 구현하는 엔비디아 고객에게 도움이 될 것”이라고 그는 말했다.
그러면서도 그는 “엔비디아가 AI 인프라 측면에서 밀어붙이는 이러한 기술 표준들은 독점적 성격을 가진다. 하지만 엔비디아로서는 경쟁에서 앞서 나가기 위해서는 그렇게 할 필요가 있다”라고 덧붙였다. dl-ciokorea@foundryco.com
