온프레미스에서 생성형 AI를 실행하고자 하는 기업이라면 수세의 새로운 AI 플랫폼을 살펴보자. 업계 애널리스트는 수세의 AI 기술 방향에 긍정적인 평가를 보이고 있다.
수세는 온프레미스 및 클라우드 서비스에서 LLM을 실행할 수 있는 ‘엔터프라이즈급 생성형 AI 플랫폼’을 지원하겠다고 19일 밝혔다. 업계 애널리스트는 현재 온프레미스에 AI 서비스를 지원하는 주요 벤더가 없는 상황이기에 수세의 이번 플랫폼을 차별점을 만들 수 있다고 분석했다.
먼저 컨설팅 회사 오픈소스센스(OpenSourceSense)의 수석 파트너인 빌 와인버그는 온프레미스 AI 제품이 업계에서 부족하다는 점에 주목했다.
와인버그는 “업계에서 온프레미스를 강조하는 통합 AI 제품은 거의 없는 상황이다. IBM과 VM웨어가 파트너십을 맺고 온프레미스 환경에서 왓슨 AI를 지원한다는 발표 정도가 있을 뿐이다. 하지만 VM웨어의 경우, 현재 활동을 보면 해당 솔루션에 얼마나 진지하게 투자하고 있는지 확인하기 어렵다”라고 밝혔다. 또한 와인버그는 “수세가 실제로 어떤 영향력을 끼칠지는 알 수 없지만 어쨌든 수세 스스로 이번 플랫폼을 통해 오픈소스 AI 기술의 엔터프라이즈 업체로서 입지를 확고히 하려는 것으로 보인다. 여러 가능성을 열어두고 이번 서비스를 출시했을 것”이라고 분석했다.
수세는 새로운 AI 플랫폼으로 기업이 사일로를 해소하고 엔터프라이즈 생성형 AI 구현과 관련된 비용을 절감할 수 있게 지원할 예정이다. 또한 수세에 따르면, 해당 플랫폼은 모듈 방식을 추구하고 특정 벤더와 LLM과 관계없이 이용 가능하고 높은 보안성을 지원한다.
수세는 “새로운 AI 플랫폼은 오픈소스, 엔터프라이즈급 수세 리눅스, 랜처 프라임 쿠버네티스 관리 및 랜처 뉴벡터 보안 제품을 기반으로 개발됐다”라며 “고객이 안전한 프라이빗 환경에서 데이터 흐름을 제어해 컴플라이언스 위반을 방지하고 보안을 개선할 수 있도록 지원할 것”이라고 밝혔다.
가트너 리서치 부사장 토니 아이암스는 “수세가 자신의 기술이 VM웨어 플랫폼의 대안이 될 수 있다는 점을 언급하지 않은 것은 조금 아쉬운 전략인 것 같다”라며 “실제로 브로드컴이 VM웨어를 인수한 뒤 관련된 고객이 기존 서비스에 문제가 생길까 우려하며 대안 기술을 찾는 기업이 있다”라고 밝혔다.
두 애널리스트는 많은 기업이 효과적인 생성형 AI 배포 전략을 수립하는 데 어려움을 겪고 있으며 수세는 해당 기업을 공략하고 있는 것이라고 설명했다. 다시 말해 사이버 보안, 규정 준수, 개인 정보 보호, 확장성, 데이터 유출, 섀도 AI, 정확성(일명 환각), 비용 효율성 균형을 맞추려는 기업이 많다는 것이다.
IT 경영진은 AI 워크로드를 클라우드에서 실행할지 온프레미스에서 실행할지 결정한 후에는 오픈소스 운영체제 및 상용 운영 체제를 검토할 수 있다.
적절한 비용을 찾는 고객들
가트너의 아이암스는 “온프레미스 또는 클라우드 등 생성형 AI 워크로드를 실행하는 위치와 관련하여 몇 가지 비용 고려 사항이 있다”라며 “비용 투자 대비 충분한 장점을 얻을 수 있느냐에 대한 결론은 아직 확실히 나오지 않았다”라고 밝혔다.
기업이 온프레미스와 클라우드를 고민하는 핵심 이유는 ‘제어’ 때문이다. CIO 또는 CISO는 기업의 환경에 맞는 정확한 설정과 맞춤 작업을 수행하고자 한다. 하지만 클라우드를 도입하면서 접근 권한이나 통제 권한이 달라지는 문제를 마주할 수 있다.
와인버그는 “보편적인 비즈니스 환경에서 CIO가 통제가 가능한 상황을 원한다”라며 “클라우드 공급업체를 이용할 경우 관리자는 IT 환경을 직접 통제하고 관리하지 못할까 봐 우려하곤 한다”라고 설명했다.
아이암스는 “오픈소스라고 해서 늘 상용 소프트웨어보다 저렴하지는 않을 것”이라며 “오픈소스는 저렴하다는 인식이 있지만, 어떤 상황에선 오픈소스와 상용 소프트웨어를 모두 이용해야 한다”라고 말했다.
수세는 아이암스가 지적한 부분을 지원하려 하고 있다. 즉 오픈소스 및 상용 기술 상관없이 생성형 AI 배포를 지원하는 데 필요한 모든 요소를 제공하고 잘 작동하도록 지원해 주겠다는 것이다.
수세는 “수세는 오픈소스 철학을 기반으로 높은 보안성을 약속하며, 설계 처음부터 프라이버시를 보호하는 방식으로 AI 플랫폼을 개발하고 있다”라며 “수세 AI는 기업이 프라이빗하고 안전한 보안 환경에서 AI를 최대한 활용할 수 있도록 고객이 선호하는 모델과 도구를 선택할 수 있게 열어두고, 책임있는 AI 구현을 지원할 것”라고 밝혔다.
와인버그는 “생성형 AI 기업이 갑자기 사업을 중단하거나 또는 특정 제품 지원을 포기할 경우 엄청난 문제가 생길 수 있다”라며 “오픈소스 AI 전략은 해당 문제를 해결할 수 있다”라고 설명했다. 와인버그는 이런 상황을 ‘코드 에스크로(코드 임치, 특정 코드를 당사자가 아닌 제3자에게 맡기는 절차)’에 비유하며, “오픈소스 AI 기술을 이용할 경우, 공급업체가 파산해도 소스코드를 오픈소스 코드 저장소같이 외부에서 접근하는 것이 가능하다”고 밝혔다.
dl-ciokorea@foundryco.com
