우버가 초당 1,500만 건의 예측을 처리하는 특수한 클라우드 요구 사항을 충족하기 위해 오라클과 반도체 기업 암페어 컴퓨팅(Ampere Computing)와 협력해서 인프라를 운영하겠다고 밝혔다.
우버는 2022년 자체 데이터센터 운영을 중단하고 클라우드로 전환하기로 결정했을 때, CPU 수준까지 아우르는 클라우드 워크로드 처리 방식에 대한 정밀한 제어력을 확보하고자 했다. 과거 인프라의 90% 이상을 자체 데이터센터에서 운영하던 우버는 2023년 대대적인 전환을 결정하여 오라클과 구글을 주요 클라우드 공급업체로 선정하고, 온프레미스 인프라를 클라우드로 이전하는 작업에 착수했다.
이제 우버는 암페어 컴퓨팅과 제휴하여 오라클 클라우드 인프라스트럭처에서 워크로드를 실행하는 방식을 더 세밀하게 제어할 예정이다. 전 인텔 사장인 르네 제임스가 2017년에 설립한 미국의 팹리스 반도체 회사인 암페어는 2021년부터 오라클에 칩을 공급하기 시작했다. 암페어에 따르면 현재 오라클 서비스의 95%가 암페어 인프라에서 실행되고 있다.
암페어는 2023년에 클라우드 컴퓨팅 제공업체를 위해 맞춤 설계된 칩 제품군을 출시했으며, 최근에는 AI 가속 기능이 통합된 512코어 칩을 공개했다.
우버의 기술 전략 수석 디렉터인 캄란 자르가히는 “암페어의 클라우드 워크로드 맞춤형 칩 설계 기술은 우버의 복잡하고 특수한 컴퓨팅 요구사항을 충족시킬 수 있는 매력적인 해결책으로 보였다”고 설명했다. 우버의 운전자와 택배 기사들이 하루에 처리하는 운행 건수가 3,000만 건을 넘어섬에 따라, 우버의 컴퓨팅 인프라는 매 순간 막대한 양의 경로 최적화와 다양한 예측 작업을 수행해야 하는 과제에 직면해 있다.
자르가히는 “우버는 초당 1,500만 개의 AI 모델을 실행하는 상황이다”라며 “우버가 운영하는 모든 운행 및 배달 서비스와 관련된 컴퓨팅 작업들이 매 순간 AI 모델을 통해 처리된다”라고 설명했다.
칩에 대한 완전한 통제
우버의 엄청난 컴퓨팅 수요로 인해 우버는 클라우드 컴퓨팅 공급업체의 내부 작업에 대해 이례적인 수준의 제어가 필요하게 되었다. 오라클 클라우드월드 2024에서 공개된 우버, 암페어, 오라클 간의 파트너십은 우버가 암페어와 함께 맞춤형 칩을 공동 설계할 수 있는 길을 열었다.
자르가히는 “우버는 기술에 깊이 파고드는 것을 매우 좋아한다”라며 “클라우드 인프라의 물리적인 배치(지역과 존), 비용과 성능의 효율성, 그리고 기술적으로 아주 세세한 부분까지 모두 깊이 있게 파악하고 제어하는 방식을 추구하고 있다”라고 설명했다.
암페어의 최고 제품 책임자인 제프 위티치는 우버, 오라클, 암페어가 클라우드에서 고성능과 전력 효율성에 중점을 두고 칩 설계를 위해 협력하고 있다고 언급했다. 위티치는 우버가 오라클 클라우드 인프라 내에서 기존 하드웨어를 암페어의 맞춤형 칩으로 전환함으로 인프라 비용을 절감하는 동시에 전력 소비를 30%까지 줄이고 있다고 설명했다.
위티치는 “우리는 처음부터 클라우드에 적합한 제품을 구축하려고 했다”라며 “10년, 20년, 30년 전 다른 용도에 맞춰 설계된 기존 기술을 단순히 클라우드에 적응시키는 방식을 추구하지 않는다”라고 표현했다.
위티치는 이번 파트너십을 통해 암페어와 우버 엔지니어가 칩 설계를 위해 ‘함께’ 일하고 있다고 전했다. 위티치는 “미래를 공동으로 구상하며 암페어와 우버는 함께 팀을 만들어 일하고 있다”라며 “CPU의 마이크로아키텍처까지 최적화를 계속 논의하고 있으며, 이를 통해 우버의 요구에 완벽히 부합하는 차세대 CPU를 설계하고 있다”라고 밝혔다.
IDC의 컴퓨팅 반도체 연구 부사장 셰인 라우는 암페어는 ARM 프로세서 아키텍처 라이선스 업체로, 클라우드 서비스 제공업체인 AWS, 구글, 마이크로소프트도 ARM 기반 CPU를 맞춤 설계하고 있다고 설명했다. 라우는 클라우드 서비스 이용 고객은 앰페어 같은 반도체 회사와 협력해 CPU를 공동 설계하면 혜택을 볼 수 있다며, 특히 필요한 도구, 관계, 기술을 제공받을 수 있다고 표현했다.
라우는 “보통 기업은 내부 고유 기술이나 작업을 처리하거나 특정 고객의 요구를 충족할 수 있는 능력은 갖추고 있지만, 그 기술을 실제로 제품화하여 완전한 CPU 제품으로까지 만들어 시장에 판매하는 식의 전문성이나 자원은 부족할 수 있다. 그래서 반도체 기업과 따로 협력을 하는 것”이라고 언급했다.
철저히 계획된 클라우드 전환
많은 기업이 우버의 비슷한 상황과 문제를 갖고 클라우드 전환하는 시도한다. 그런 면에서 우버의 클라우드 전환 환경은 다른 기업에서 참고해보면 좋다. 일단 얼마 되지 않은 2010년 베타 서비스를 시작한 우버는 당시 현대적 클라우드 컴퓨팅 시장이 아직 초기 단계였기 때문에 자체 데이터센터를 운영하기로 결정했다. 당시 AWS는 설립된 지 얼마되지 않은 상태였고, 마이크로소프트는 우버의 베타 서비스 출시 직전에 30년 된 윈도우 애저 서비스를 ‘애저’로 리브랜딩하는 과정에 있었다.
우버의 대부분의 컴퓨팅 작업은 여전히 온프레미스에서 이루어졌지만, 회사는 기회가 있을 때 클라우드 서비스를 사용했다고 자르가히는 설명했다. 하지만 2022년에 광범위한 기술 검토를 거친 후 우버는 자체 데이터센터 운영을 중단하고 승객 운송과 음식 및 소비재 배달 같은 비즈니스 영역에 보다 집중하기로 결정했다.
우버는 2022년 9월 기술 블로그를 통해 온프레미스 인프라의 제약을 받았다고 밝혔다. 서버를 수동으로 관리하는 데 주로 의존하고 있었기 때문이다.
우버는 “서버의 수가 빠르게 증가했지만, 우버의 도구와 팀이 이를 따라가지 못했다”라며 “자동화 도구가 있었지만, 지속적으로 문제가 발생했고, 수동 작업과 자동화 도구 모두가 빈번한 중단의 원인이 되었다”라고 설명했다.
동시에 우버 사용자와 서비스 규모가 점점 증가함에 많은 데이터센터와 가용 영역으로 확장이 필요했다. 새로운 영역을 구축하는 데는 몇 달이 걸렸고 수백 명의 엔지니어가 투입되었다.
우버는 또한 “대부분의 서버는 온프레미스에 있었고, 클라우드에서 제공되는 추가적인 컴퓨팅 자원을 충분히 활용하지 못했다”라며 “클라우드 환경을 이미 가지고 있었지만, 그 환경을 자동화된 방식으로 운영하지 않고 수동으로 관리했기 때문에 클라우드의 장점을 충분히 활용하지 못했다”라고 덧붙였다.
우버의 클라우드 여정의 일환으로 암페어와 오라클과 같은 기업과 협력을 적극 모색했다. IDC의 라우는 “암페어가 클라우드 고객에게 맞춤형 칩을 제공하는 것이 합리적인 전략”이라며 “암페어는 최근 CPU 아키텍처를 더 널리 적용할 수 있도록 집중하고 있다”라고 평가했다.
암페어는 최근 오라클, 퀄컴과의 파트너십 등을 통해 시장에서 입지를 확대하고 있다. 라우는 맞춤형 칩 역량이 암페어에 새로운 시장을 열어줄 수 있다고 전망했다. 라우는 “반도체 회사가 표준 제품 외에 맞춤화된 제품을 제공함으로써, 고객은 반도체 회사의 처리 아키텍처, 개발 도구, 그리고 솔루션 스택의 다양한 요소들을 활용하여 자신만의 고유한 CPU 설계를 만들 수 있을 것”이라고 설명했다.
dl-ciokorea@foundryco.com
