마이크로소프트와 오라클이 다년간의 계약을 체결했다. 빙의 대화형 검색 최적화를 위한 AI 모델의 추론 작업에 대해서다. 최근 일반에 공개된 빙 대화형 검색은 빠르게 점유율을 높여가고 있다.
이 계약의 일환으로 마이크로소프트는 3월에 출시된 엔비디아 GPU 지원 슈퍼컴퓨팅 트레이닝 및 추론 서비스인 오라클 클라우드 인프라스트럭처(OCI) 슈퍼클러스터를 자체 애저 인프라와 함께 사용하게 된다.
OCI 슈퍼클러스터 서비스는 오라클 생성형 AI 전략의 첫 번째 계층에 해당한다. 대규모 언어 모델(LLM)을 개발하는 코히어(Cohere) 또는 허깅 페이스(Hugging Face)와 같은 기업을 대상으로 한다.
양사는 공동 성명에서 OCI 슈퍼클러스터와 애저 AI의 결합을 통해 빙 대화형 검색을 강화하기 위해 지속적으로 최적화되고 있는 AI 모델의 추론을 뒷받침할 것이라고 밝혔다. 추론은 AI 시스템이 보유한 정보와 지식을 기반으로 결론을 도출하거나 예측을 내리는 프로세스다.
양사는 “마이크로소프트 애저용 오라클 인터커넥트를 활용해 OCI 컴퓨팅을 대규모로 오케스트레이션함으로써 증가하는 빙 대화형 검색 수요를 지원할 수 있다”라며 빙 대화형 검색에는 추론 모델이 수행한 검색 결과의 평가 및 분석을 지원하는 강력한 컴퓨팅 인프라 클러스터가 필요하다고 덧붙였다.
추론 모델은 일반적으로 멀티비트 네트워크를 통해 단일 슈퍼컴퓨터처럼 병렬로 작동할 수 있는 수천 개의 컴퓨팅 및 스토리지 인스턴스와 수만 개의 GPU를 필요로 한다.
지난 9월, 오라클은 데이터베이스 하드웨어(오라클 엑사데이터 포함) 및 소프트웨어를 마이크로소프트 애저 데이터센터에 배치하여 고객이 애저를 통해 오라클 클라우드 인프라스트럭처(OCI)에서 실행되는 오라클 데이터베이스 서비스에 직접 액세스할 수 있도록 함으로써 마이크로소프트와의 파트너십을 확장했던 바 있다. cdl-ciokorea@foundryco.com
