VM웨어 익스플로어 컨퍼런스에서 브로드컴이 VM웨어 클라우드 파운데이션에서 동작하는 VM웨어 프라이빗 AI를 위한 새로운 AI 모델 스토어 등 AI 관련 업데이트를 다수 발표했다.
지난해 가을 발생한 오픈 AI 사내 분쟁은 해당 기업의 서비스를 도입한 기업에게 생성형 AI 달걀을 한 바구니에 담는 행동의 위험성을 상기시켰다. 그 이후 AI 분야의 기능은 비약적으로 발전했고, 더 저렴한 비용 또는 더 전문화된 대안을 제공하는 수많은 오픈소스 모델이 등장했다.
또한 규제 제약과 보안 문제로 인해 일부 기업은 온프레미스 데이터센터나 프라이빗 클라우드에서 완전한 통제 하에 AI를 실행하고 있다.
이러한 이유로 일부 기업은 특정 AI 공급업체나 클라우드 공급업체에 종속되지 않는 타사 플랫폼을 찾고 있다. 그리고 현재 브로드컴이 소유하고 있는 VM웨어가 이 분야의 주요 경쟁자 중 하나다.
지난 28일 연례 VM웨어 익스플로어 컨퍼런스에서 브로드컴은 이 분야의 경쟁력을 한층 높였다. VM웨어 클라우드 파운데이션 9 플랫폼용 엔비디아 애드온과 함께 VM웨어 프라이빗 AI 파운데이션용 새로운 모델 스토어를 지원한다고 발표한 것이다.
VM웨어와 엔비디아의 이 조인트 플랫폼은 지난 5월에 정식 출시된 바 있으며, 엔비디아의 AI 모델, 툴 및 프레임워크를 지원한다. 이미 미국 상원 연방 신용 조합(US Senate Federal Credit Union)을 비롯한 여러 조직이 이 플랫폼을 사용하고 있다.
미국 상원 연방 신용 조합의 CIO인 마크 푸르니에는 성명에서 “우리는 내부 직원을 위한 지식 기반 기반 챗봇 답변부터 회원들이 은행 업무에 사용하는 모든 기기에서 재무 관련 답변을 제공하는 것까지 고객 서비스에서 AI가 유용할 것으로 보고 있다. VM웨어 클라우드 파운데이션에서 실행되는 VM웨어 프라이빗 AI는 우리가 수년간 프라이빗 클라우드 환경에서 운영해 온 방식을 준수할 수 있도록 엄청난 가치를 제공할 것”이라고 밝혔다.
이 공동 플랫폼을 처음 출시된 시점부터 생성형 AI 애플리케이션의 배치를 지원했다. 또 벡터 데이터베이스를 포함함으로써 검색 증강 생성(RAG)을 사용하여 생성형 AI가 더 정확한 답변을 제공할 수 있도록 지원했다.
브로드컴의 VM웨어 클라우드 파운데이터 부문 제품 담당 부사장인 폴 터너는 “우리가 놓치고 있던 부분은 모델 스토어 관리자였다”라며, 이번 업데이트를 통해 기업은 개발자에게 엄선된 AI 모델을 제공하고 해당 모델에 대한 액세스 제어를 제공할 수 있다고 강조했다.
그는 이어 “또한 조직이 지원하고자 하지 않는 범용 대형 언어 모델만 사용하지 않도록 할 수 있다. 출처가 불명확한 LLM을 사용하지 않을 수 있는 것이다. 즉 이러한 LLM을 관리할 수 있는 방법을 제공함으로써 사용자가 진정으로 생성적인 AI 혁신을 활용할 수 있도록 할 수 있다”라고 말했다.
VM웨어 고객은 엔비디아의 AI 모델뿐만 아니라 허깅 페이스 및 기타 파트너사의 모델(메타의 라마 3 모델, 구글 및 미스트랄의 모델 포함)도 사용할 수 있다. “엔비디아가 지원하는 것은 무엇이든 우리도 지원한다”라고 터너는 말했다.
모델 스토어 외의 다른 새로운 기능으로는 통합 액세스 제어를 통해 모델을 보호하는 툴, 간소화된 배포 워크플로우, 고객 서비스, 신약 개발, PDF 데이터 추출과 같은 특수 사용 사례를 위한 참조 AI 워크플로우 등이 있다.
그 밖의 VM웨어 클라우드 파운데이션의 개선 사항은 다음과 같다.
– 서비스 프로비저닝을 위한 관리 콘솔 수가 12개 이상에서 운영 및 자동화를 위한 단일 콘솔로 축소됐다.
– 새로운 메모리 계층화 기능을 통해 AI, 데이터베이스, 실시간 분석과 같은 데이터 집약적인 애플리케이션의 속도를 높일 수 있다.
– 여러 VM웨어 클라우드 파운데이션을 배포한 환경에서 통합 보안 관리를 비롯한 향상된 보안 기능을 이용할 수 있다.
그러나 브로드컴은 새로운 기능이 모두 포함된 VM웨어 클라우드 파운데이션 9의 출시 시기를 발표하지 않았다. 브로드컴의 VCF 사업부 제품 마케팅 담당 부사장 프라샨트 셰노이는 “오늘 발표하는 내용은 VM웨어 클라우드 파운데이션의 향후 방향과 로드맵이다”라고 말했다. dl-ciokorea@foundryco.com
