서버 인프라를 더 많이 구축할 것인가? 아니면 업그레이드할 것인가? 컴퓨팅 사용량이 많은 사용자들이 직면하고 있는 문제다. 데이터센터 신설이 아닌, 업그레이드가 유력한 옵션으로 부상하고 있다.
AI 혁명으로 인해 대규모 컴퓨팅 성능에 대한 수요가 증가하는 가운데, 데이터센터 운영자가 더 많은 시설을 구축할 계획을 세우고 있다. 일부 전문가들은 대규모 컴퓨팅이 필요한 데이터센터의 경우 하드웨어 업그레이드를 하나의 옵션으로 고려해야 할 때라고 제시한다.
부동산 서비스 기업 CBRE의 글로벌 데이터센터 동향 2024 보고서에 따르면, 전 세계 많은 지역에서 데이터센터가 거의 한계 용량에 가까운 상태로 운영되고 있다. 보고서에 따르면 싱가포르의 데이터센터 공실률은 1%이며, 거대 북부 버지니아 데이터센터 허브의 데이터센터 여유 비율은 0.9%에 그쳤다. 이 허브의 경우 2023년 초에서 2024년 초까지 18%나 용량을 늘렸던 바 있다.
2023년 CBRE 보고서에 따르면 해당 시점에 건설 중인 데이터센터 용량의 83%가 사전 판매된 것으로 나타났다.
이 보고서는 2024년 유럽, 라틴 아메리카, 아시아 태평양 지역에서는 10% 이상의 용량 여유가 있는 상태이기는 하지만, AI와 클라우드 컴퓨팅 제공업체, 기타 고부하 애플리케이션의 성장으로 인해 데이터센터 운영에 대한 새로운 접근 방식이 필요하다고 진단했다. “고성능 컴퓨팅은 증가하는 고성능 요구를 관리하기 위해 데이터센터 설계 및 기술의 빠른 혁신을 필요로 할 것”이라고 이 보고서는 덧붙였다.
신용평가사 무디스는 7월 15일 보고서에서 향후 5년 동안 전 세계 데이터센터 용량이 두 배로 증가한다는 예상치를 제시하면서, 현재의 데이터센터 구축 붐이 이어질 것으로 전망했다. 하지만 새로운 데이터센터를 위한 공간을 찾는 것이 점점 더 어려워지고 있는 상황에서 일부 전문가들은 오래된 하드웨어 교체를 고려해야 할 때라고 주장하고 있다.
효율성이 곧 비용
최신 CPU는 더 강력한 컴퓨팅 성능을 제공할 뿐만 아니라 구형 모델보다 전력 효율이 높고 일반적으로 데이터센터 공간을 훨씬 적게 차지한다. 데이터센터는 새로운 CPU를 사용함으로써 50여 대 미만의 서버로도 수만 개의 코어를 실행할 수 있다고 AMD 데이터센터 솔루션 그룹의 아키텍처 및 전략 기업 부사장 로버트 호머스는 말했다.
호머스에 따르면 코로나19 팬데믹으로 인해 일부 업그레이드가 지연됐으며, 여전히 5년 이상 된 서버가 약 1억 대 운영되고 있다. 2,100만 대의 새로운 서버가 이 구형 시스템을 대체할 수 있으며, 이는 데이터센터의 공간을 그만큼 새롭게 창출할 수 있다는 의미다.
그는 전력 효율성 향상과 기타 절감 효과를 감안하면 단 2개월 만에 투자 수익을 거둘 수 있기도 하다고 강조했다. 반면 새로운 데이터센터를 구축하는 데는 수억 달러의 비용이 들 수 있다는 설명이다.
호머스는 또 신형 하드웨어의 전력 효율성 향상으로 데이터센터와 기타 조직이 AI 워크로드를 실행할 수 있는 잉여 전력을 확보할 수 있기도 하다고 주장했다. “지금 기업에서는 ‘어떻게 하면 AI를 위한 공간과 전력을 확보할 수 있을까’라는 경쟁이 벌어지고 있다”라고 그는 말했다.
예정된 대규모 업그레이드
다른 여러 IT 전문가들도 지금이 서버 및 기타 하드웨어를 교체하기에 좋은 시기라고 진단한다. 데이터센터 운영 기업들의 계획도 이에 부합한다. 가트너는 2024년 서버, 외장 스토리지, 네트워크 장비를 포함한 데이터센터 지출이 24.1% 증가할 것으로 예상하고 있다. 2023년 신규 건립을 제외한 데이터센터의 지출 성장률은 4%에 그쳤던 바 있다.
데이터센터 및 사이버 보안 컨설팅 회사인 미디아드360의 인프라 설계자 및 엔지니어 담당 부사장인 짐 워먼도 같은 추세를 포착하고 있다고 전했다. 많은 하드웨어 사용자가 교체를 우선시하고 있다.
“기업들이 새로운 애플리케이션과 서비스를 지원하고, 비용을 절감하며, 경쟁력을 유지하기 위해 인프라를 현대화하는 방안을 긍정적으로 검토 중이다. 비즈니스 성장과 운영 효율성을 높이기 위해 최신 기술을 활용하는 데 중점을 두고 있다”라고 그는 말했다.
그는 미국의 데이터센터 수용 능력이 한계치에 도달함에 따라 조직이 하드웨어 업그레이드를 고려해야 할 필요성이 커졌다고 덧붙였다. AI 및 머신러닝 워크로드에는 최신 하드웨어가 필요하기 때문에 하드웨어 부족 문제가 더욱 심각해지고 있기도 하다.
워먼은 “최신 하드웨어는 향상된 성능, 안정성, 보안 기능을 제공하며, 이는 경쟁 우위를 유지하고 데이터 무결성을 보장하는 데 매우 중요하다. 고성능 하드웨어는 더 적은 공간에서 더 많은 워크로드를 지원할 수 있어 많은 데이터센터가 직면한 용량 제약을 해결할 수 있다”라고 말했다.
AI 도구 제공업체 시커의 사장 겸 CTO인 롭 클라크는 AI의 요구가 하드웨어 업그레이드를 고려해야 하는 강력한 이유라며, 새로운 하드웨어를 고려하는 조직은 가격 및 성능, 새로운 기능, 기존 하드웨어의 연한 등 공간 고려 사항 외에도 여러 요소를 고려해 업그레이드를 결정해야 한다고 조언했다.
그는 카드당 메모리와 칩당 성능이 증가함에 따라 구형 GPU가 주요 교체 대상이라며, “더 적은 수의 더 큰 카드가 AI 워크로드를 처리하는 것이 더 효율적”이라고 말했다.
미시간대학교 혁신기술대학의 티모시 베이츠 교수는 AI가 데이터센터 확장 및 하드웨어 업그레이드에 대한 수요를 주도하고 있지만, AI 자체가 데이터센터 부족 문제의 해법이기도 하다고 전했다. AI를 사용하여 효율성을 높일 수 있다는 이야기다.
“AI 도구를 사용하여 PCIe 카드, SSD, 메모리 구성 요소와 같은 하드웨어 성능 저하를 예측하고 관리함으로써 기업은 전체 시스템이 아닌 개별 구성 요소를 교체하여 비용을 최적화하고 기존 인프라의 수명을 늘릴 수 있다. 이러한 접근 방식과 전략적 하드웨어 업그레이드를 결합하면 데이터센터의 효율성과 성능을 극대화할 수 있다”라고 그는 말했다.dl-ciokorea@foundryco.com
