서비스나우가 속도, 생산성 및 가치를 향상시키는 생성형 AI 기능, '사례 요약(case summarization)'과 '텍스트 투 코드(text-to-code)'를 26일 발표했다. 서비스나우 LLM(대규모 언어 모델)으로 구동되며, 두 기능 모두 서비스나우 플랫폼을 위해 특별히 설계되어 반복적인 작업을 완화하고 생산성을 크게 향상한다고 업체 측은 설명했다.
또한 서비스나우는 IT 서비스 관리(ITSM), 고객 서비스 관리(CSM), HR 서비스 제공(HRSD)에 걸쳐 새로운 프리미엄 SKU를 제공하는 상용화에 대한 접근 방식을 발표했으며, 올해 9월 나우 플랫폼 밴쿠버(Now Platform Vancouver) 릴리스와 함께 제공할 예정이다.
사례 요약과 텍스트 투 코드는 모든 워크플로우 제품에 걸쳐 서비스나우 플랫폼에 도입되고 있는 나우 어시스트 제품군의 생성형 AI 기능으로 구동된다. 서비스나우가 이전에 발표했던 생성형 AI 기능의 얼리 엑세스 버전을 사용하는 고객의 생산성이 대폭 향상되었다. 여기에는 조직이 서비스나우의 인스턴스를 마이크로소프트 애저 오픈AI 서비스(Microsoft Azure OpenAI Service), 오픈AI API LLM을 연결할 수 있는 생성형 AI 컨트롤러(Generative AI Controller), 고객의 자체 지식을 기반으로 자연어 응답을 제공하는 검색용 나우 어시스트(Now Assist for Search), 정보 검색에 소요되는 시간을 줄여 생산성을 극대화하는 버추얼 에이전트용 나우 어시스트(Now Assist for Virtual Agent) 등이 포함된다.
서비스나우 최고 운영 책임자(COO)인 CJ 데사이는 “생성형 AI는 업무 방식을 근본적으로 바꿀 수 있는 잠재력을 갖고 있으며, 진정한 기회는 이러한 잠재력을 활용하여 비즈니스에 의미 있는 영향을 미치는 것”이라며, “사례 요약 및 텍스트 투 코드 기능을 9월에 출시될 우리의 강력한 SKU와 함께 플랫폼에 생성형 AI를 통합할 수 있게 되어 기대가 크고, 생성형 AI 분야에서 강력한 견인력을 바탕으로 고객에게 탁월한 경험과 향상된 결과를 제공하여 기업 전반의 생산성을 높일 수 있도록 도울 것”이라고 밝혔다.
사례 요약과 텍스트 투 코드는 모두 나우 플랫폼(Now Platform), 워크플로우, 자동화 사용 사례, 프로세스 등을 이해하고자 특별히 개발된 서비스나우 독점 LLM을 기반으로 한다. 텍스트 투 코드 나우 LLM은 서비스나우가 주도하는 개방형 빅코드 이니셔티브를 통해 개발된 150억 개의 파라미터로 구성된 스타코더 LLM(StarCoder LLM)의 특수 버전을 기반으로 구축되었으며, 엔비디아 DGX 클라우드(NVIDIA DGX Cloud)를 비롯한 엔비디아 가속 컴퓨팅을 사용하여 학습 및 튜닝되었다. 스타코더는 고성능, 투명성, 책임감 있는 생성형 AI의 표준을 제시한다. 또한 고객은 사례 요약을 통해 마이크로소프트 애저 오픈AI 서비스 및 오픈AI API LLM의 타사 LLM을 사용할 수 있다.
사례 요약은 생성형 AI를 활용하여 IT, HR 및 고객 서비스 사례에서 고객 또는 사건의 세부 정보, 이전 접촉 지점, 관련 당사자들이 취한 조치 및 최종 해결 방안을 읽고 요약해 정확한 사례 요약 노트를 몇 초안에 작성한다. ‘필수적이지만 수동적인’ 과정을 간소화함으로써 내부 팀 간의 빠른 업무 이양이 가능하며, 생산성을 높이고 고객과 직원들에게 보다 간소화된 해결책을 제공한다. 또한 이러한 수동 프로세스를 간소화함으로써 직원들은 더 복잡한 업무와 프로젝트에 집중할 수 있다.
서비스나우의 텍스트 투 코드는 개발자가 원하는 코드 유형에 대한 일반 자연어 텍스트 설명을 작성할 수 있으며, 나우 플랫폼의 생성형 AI는 텍스트를 고품질 코드로 제안해 변환하고 일부 경우에는 검토, 편집 및 구현할 수 있는 완성된 코드까지 제공한다. 텍스트 투 코드는 기업 내 모든 부서에서 원활한 코딩 환경을 구축해 빠른 개발 및 생산성 향상을 실현하도록 지원한다.
프로세스 마이닝, 로우코드, AI, 머신러닝을 포함한 하이퍼 자동화 기술은 이미 오래 전부터 서비스나우 제품에 적용돼 2023년 2분기에는 ITSM 프로 및 CSM 프로가 기록적인 성장을 할 수 있도록 도왔다. 고객과의 초기 파일럿에서 얻은 기대되는 결과와 서비스나우의 자체 생성형 AI 기능 초기 사용에 힘입어 서비스나우는 9월 밴쿠버 플랫폼 출시를 시작으로 ITSM, CSM, HRSD에 걸친 새로운 프리미엄 SKU를 선보일 예정이다. dl-ciokorea@foundryco.com
