리서치 기관 델오로 그룹에 따르면 데이터센터용 액체 냉각 기술이 틈새 옵션에서 주류로 전환하고 있다.
고급 프로세서와 고성능 서버 배치가 증가함에 따라 액체 냉각 기술에의 수요가 증가하고 있다. 델오로 그룹은 액체 냉각이 2024년 하반기에 주류 기술로 자리 잡기 시작하며, 향후 5년 동안 150억 달러 이상의 시장으로 성장할 것이라고 전망했다.
“역사적으로 액체 냉각 공급업체들은 이 기술을 도입할 이유로 효율성 향상과 지속 가능성을 내세웠다. 이러한 장점은 여전히 유효하다. 그러나 최근에는 하이엔드 프로세서와 가속화된 서버의 특히 까다로운 열 요구 사항을 대응하는 열 관리 성능이 현재 확산의 원동력이다”라고 델오로 그룹의 리서치 디렉터이자 데이터센터 액체 냉각 연구 보고서의 저자인 루카스 베란은 말했다. 델오로에 따르면 024년 1분기 GPU와 맞춤형 가속기를 탑재한 서버가 전체 서버 판매의 절반 이상을 차지했다.
또한 AI 네트워크 요구 사항은 더 빠른 속도와 고급 열 관리로의 전환을 가속화할 전망이다. 델오로는 AI 백엔드 네트워크에 배포되는 스위치 포트의 대부분은 2025년까지 800Gbps, 2027년까지 1600Gbps가 될 것으로 예상했다.
액체 냉각의 유형
델오로 보고서는 리어 도어 열교환기, 다이렉트 투 칩, 액침 등의 세 가지 액체 냉각 기술이 오늘날 주로 사용된다고 전했다. 리어 도어 열교환기는 일반적으로 개별 서버 랙에 설치되며 랙 뒤쪽에 차가운 액체를 공급해 서버에서 발생하는 열을 제거하는 응축기를 의미한다. “리어 도어 열교환기의 중요한 점은 IT 장비를 수정할 필요가 없다는 것이다. 액체 냉각용으로 설계되지 않은 인프라에 훨씬 더 간단하게 배포할 수 있다”라고 베란은 설명했다.
다이렉트 투 칩 액체 냉각 기술은 기존 장비의 변경을 요구한다. 서버에 튜브를 연결하고 프로세서 위에 전용 냉각 플레이트를 설치해야 한다. 이러한 구성을 단상 직접 칩 액체 냉각(DLC)이라고 합니다. 이중 위상 버전의 다이렉트 투 칩 패키지는 냉각제의 액체 및 증기 위상을 활용하여 칩의 열을 더욱 효율적으로 식힌다.
현재는 단상 DLC 배포가 먼저 적용되고 있다. “고성능 컴퓨팅 업계에서 오랫동안 채택되어 온 방식이다. 보다 성숙한 공급업체 생태계가 구축됐으며, 이용 기업의 노하우도 축적됐다”라고 베란은 말했다.
단상 DLC 방식의 확산은 향후 5년 동안 계속될 전망이다. 그러나 2상 DLC 또한 예측 기간 동안 크게 성장할 것으로 예상되며, 궁극적으로 유체 혁신이 액체 냉각의 성공에 큰 역할을 할 것이라고 베란은 분석했다.
베란에 따르면 2023년 데이터센터 액체 냉각 시장에서 매출 상위 3곳의 벤더는 쿨잇시스템(CoolIT Systems), 보이드(Boyd), 모티브에어(Motivair)다. 또한 엔비디아가 곧 출시될 GB200 컴퓨팅 노드를 지원하기 위한 냉각 기술로 단상 DLC를 지정했다고 그는 언급했다. 엔비디아 GB200 라인업의 하이엔드 제품인 NVL72 시스템은 컴퓨팅 집약적인 워크로드를 위한 72노드, 수냉식, 랙 스케일 시스템이다. 각 DGX GB200 시스템은 최신 세대 NV링크 상호 연결 기술로 연결된 72개의 블랙웰 GPU와 36개의 그레이스 CPU를 포함하는 36개의 그레이스 블랙웰 슈퍼칩으로 구성되어 있다.
델오로 보고서의 세 번째 기술 예측인 침수 냉각은 서버, 네트워킹 또는 기타 장비를 냉각수 역할을 하는 비전도성 액체에 직접 담가 열을 식히는 방식입니다. 액침 냉각 기술은 기존의 공랭식 냉각에 비해 데이터센터의 서버 밀도를 높일 수 있다.
베란은 “액침 냉각에 대한 관심의 이유는 엔지니어링 관점에서 볼 때 최고의 열 관리 성능을 구현하기 때문이다. (액침 냉각은 서버에서 발생하는 열을 거의 100% 포집할 수 있다. 최고의 에너지 효율을 달성할 수 있는 방안이다”라고 설명했다.
하지만 액침 냉각 시장은 아직 초기 단계에 그친다. 복잡성, 생태계 성숙도 등이 발목을 잡는다. “액침 냉각 탱크를 사용하려면 케이블이 침수 냉각 탱크와 호환되고 작동해야 한다. 그리고 이 인프라를 배포하는 방법과 이 인프라를 설계하는 방법을 숙지한 벤더의 도움이 필요하다. 특히 액침 냉각에는 다이렉트 투 칩 액체 냉각과 같은 다른 형태의 액체 냉각에 비해 훨씬 더 많은 교육이 필요하다”라고 베란은 말했다.
현재 단상 액침 및 2상 다이렉트 투 칩 기술은 테스트, 검증 및 개념 증명 작업을 거치고 있으며, 관련 벤더의 파이프라인이 늘어나고 있다. 반면에 액침 및 증기 수집을 포함하는 2상 액침 기술은 PFAS(Per-and polyfluoroalkyl Substances) 사용을 둘러싼 규제로 인해 특히 어려움을 겪고 있기 때문에 확산에 어려움을 겪고 있다.
PFAS는 액침 냉각에 사용되는 화학 물질의 일종이다. 전문가들에 따르면 최대 PFAS 생산업체 중 하나인 3M은 2022년 환경상의 이유로 2025년 말까지 PFAS 소재의 생산과 사용을 중단하겠다고 밝혔고, 이는 액침 냉각 기술 분야의 위축으로 이어졌다.
“하지만 혁신의 여지가 크며, 액침 냉각 기술이 확산할 기회가 있다고 본다. 향후 5년 동안 시장에서 안착할 것으로 본다. 단 5년 이후에도 단상 DLC 냉각이 여전히 시장의 절반 이상을 차지하고 액침 냉각은 25% 미만일 것”이라고 베란은 말했다.
시스코 라이브에서 액침 냉각 시연한 리퀴드스택(LiquidStack)
최근 시스코 라이브 행사에서는 액침 냉각 기술 업체 중 하나인 리퀴드스택이 자사의 기술을 시연해 눈길을 끌었다.
이 행사에서 시스코의 광학 시스템 및 광학 그룹 수석 부사장 겸 총괄 매니저인 빌 가트너는 “아직 초기 단계에 있는 이 기술에 대해 고객들이 주목해야 할 것이다. 액침 방식은 비용이 많이 들겠지만, 데이터센터 및 AI 시스템을 효율적으로 운영하는 장점이 선명해질 것”이라고 말했다. 액침 냉각 분야의 다른 업체로는 서브머, 아페리타스, 후지쯔, 그린 레볼루션 쿨링 등이 있다. dl-ciokorea@foundryco.com
