글로벌 오픈소스 솔루션 기업 레드햇이 델 테크놀로지스(Dell Technologies)와 협력해 생성형 AI 모델 및 AI 모델을 보다 원활하게 개발·테스트·배포할 수 있도록 지원하는 파운데이션 모델 플랫폼 ‘레드햇 엔터프라이즈 리눅스 AI(RHEL AI)’를 델 파워엣지(Dell PowerEdge) 서버에서 지원한다고 밝혔다. RHEL AI는 ‘델 파워엣지 R760xa(Dell PowerEdge R760xa)’의 프리퍼드(preferred) 플랫폼으로 적용돼 제공된다.
레드햇에 따르면 양사의 협력을 통해 기업과 기관에서는 인공 지능 및 머신 러닝(AI/ML) 전략을 보다 쉽게 구현하고 IT 시스템을 확장하는 한편 비즈니스 전반에 걸쳐 엔터프라이즈 애플리케이션을 강화할 수 있다. AI 최적화 하드웨어 솔루션인 델 파워엣지 기반의 RHEL AI를 통해 일관된 AI 경험을 제공한다는 설명이다. 양사는 RHEL AI와 엔비디아(NVIDIA) 가속 컴퓨팅이 포함된 하드웨어 솔루션의 지속적인 테스팅과 검증을 통해 AI 경험을 간소화하는 데 협력할 계획이다.
조 페르난데스 레드햇 생성형 AI 기반 모델 플랫폼 부사장은 “AI는 본질적으로 서버와 컴퓨팅 성능 및 GPU를 아우르는 광범위한 리소스를 필요로 한다. 생성형 AI 사용 사례를 평가하고 구현할 때 비즈니스에 따라 확장할 수 있는 플랫폼을 기반으로 구축하는 것이 필수적이다 또 AI 기반 혁신을 실험하고 개발할 수 있는 민첩성을 확보해야 한다. 델 테크놀로지스와 협력해 파워엣지 서버에서 RHEL AI를 검증하고 경쟁력을 강화함으로써 고객은 하이브리드 클라우드 환경 전반에서 생성형 AI 워크로의 성능을 적극적으로 활용해 비즈니스의 추진력을 얻게 될 것으로 기대한다”라고 밝혔다.
밥 피트 엔비디아 엔터프라이즈 플랫폼 담당 부사장은 “오늘날과 같이 빠르게 변화하는 시장에서는 생성형 AI 사용 사례를 위해 검증되고 신뢰할 수 있는 AI 지원 솔루션을 갖추는 것이 매우 중요하다. 델 파워엣지 서버와 RHEL AI를 통해 엔비디아 H100 텐서 코어 GPU를 비롯한 엔비디아 가속 컴퓨팅의 최적화된 경험을 고객들에게 제공할 수 있게 됐다”라고 말했다.
RHEL AI는 IBM 리서치(IBM Research)의 오픈 소스 라이선스인 ‘그래니트 대규모 언어 모델(Granite LLM)’ 및 LAB(Large-scale Alignment for chatBots) 방법론에 기반한 인스트럭트랩(InstructLab) 모델 정렬 도구를 비롯해 ‘인스트럭트랩 프로젝트’를 통한 커뮤니티 중심의 모델 개발 접근 방식을 통합한 플랫폼이다. 이 솔루션은 하이브리드 클라우드 환경 내 개별 서버에 구축이 가능하게끔 부팅 가능한 ‘레드햇 엔터프라이즈 리눅스’ 이미지로 패키지화되어 있다. 또한 레드햇의 하이브리드 클라우드 ML옵스 플랫폼인 레드햇 오픈시프트 AI(Red Hat OpenShift AI)의 일부로서 분산 클러스터 환경에서 대규모로 모델 및 인스트럭트랩을 실행하도록 지원한다.
김경진 한국 델 테크놀로지스 대표는 “델 파워엣지 기반의 RHEL AI 솔루션은 델과 레드햇이 서버, GPU 및 기반 플랫폼에 대해 지속적인 테스트와 검증을 실시하고 있음을 보여주는 일부 사례로서 고객들이 신뢰할 수 있는 환경 내에서 AI 워크로드를 운영하도록 하는 에코시스템 전반의 노력이 담겨 있다. 이는 중요한 AI 워크로드를 구축하고 배포하는 과정의 생성형 AI 경험을 간소화하는데 필수적인 요소이다”라고 설명했다.
델 파워엣지 서버를 기반으로 하는 RHEL AI는 2024년 3분기 중 제공될 예정이며, 고객 솔루션 센터에서 직접 체험이 가능하다. dl-ciokorea@foundryco.com
