오라클이 생성형 AI 기반 앱 개발을 지원하기 위해 히트웨이브(HeatWave)를 업데이트했다. 업계 애널리스트는 새로운 기능으로 기업 고객이 비용을 보다 절감할 수 있을 것으로 분석했다.
오라클이 데이터 분석 클라우드 서비스인 히트웨이브에 생성형 AI 기능을 강화했다. 히트웨이브는 이전에 마이SQL 히트웨이브라고 불렸던 솔루션이다.
오라클의 히트웨이브 부문 수석 부사장인 니푼 아가르왈은 “히트웨이브로 이름을 바꾼 것 자체가 이전보다 다양한 기능을 제공하겠다는 방향을 강조한 것”이라며 “현재 마이SQL 외에 히트웨이브 젠AI, 히트웨이브 레이크하우스, 히트웨이브 오토ML 등을 지원한다”라고 설명했다.
오라클은 2023년 9월 연례 클라우드월드 컨퍼런스에서 히트웨이브(당시 마이SQL 히트웨이브)와 관련된 생성형 AI 기능을 공개했다. 여기엔 기업 사용자가 자연어로 서비스의 다양한 측면과 상호 작용할 수 있는 대규모 언어 모델(LLM) 기반 인터페이스, 새로운 벡터 스토어, 히트웨이브 챗, 히트웨이브 레이크하우스를 위한 오토ML 지원 등이 포함됐다.
오라클은 기존 업데이트 일부와 추가 기능을 결합돼 히트웨이브 젠AI가 구현됐으며, 히트웨이브 기존 고객은 이를 추가 비용 없이 공식 사용할 수 있다고 밝혔다.
비용 절감에 효과적인 데이터베이스 LLM 지원
업계 전문가에 따르면, 오라클은 업계에서 드물게 데이터베이스 내부에 LLM을 지원하고 이를 통해 비용을 절감할 수 있는 환경을 제공하고 있다. 히트웨이브 젠AI에서 이용할 수 있는 LLM은 미스트랄-7B, 메타의 라마 3-8B와 같이 파라미터 수가 적은 LLM이다.
컨설팅 기업 더퓨처럼리서치(The Futurum Group)의 리서치 디렉터 론 웨스트폴은 “이 방식은 메모리 소비를 줄일 뿐 아니라 GPU 대신 CPU를 사용할 수 있어 비용 효율적”이라며 “GPU 가격을 고려하면 적어도 AMD와 인텔이 엔비디아를 따라잡을 때까지는 CPU를 사용하는 것이 단기적으로 트렌드가 될 수 있다”라고 말했다.
컨설팅 기업 벤타나 리서치(Ventana Research)의 이사 데이비드 메닝거는 “데이터베이스 내부에서 소규모 LLM을 사용하는 이유는 미세 조정을 통해 모델에 더 많은 영향을 미칠 수 있기 때문”이라며 “모델이 작을수록 검색 증강 생성(RAG) 기술을 통해 제공되는 컨텍스트가 결과에 더 큰 영향을 미친다”라고 설명했다.
웨스트폴은 또한 IBM의 그래니트 모델을 예로 들며, 특히 엔터프라이즈 사용 사례에서 더 작은 모델을 사용하는 접근 방식이 트렌드가 되고 있다고 말했다.
오라클에 따르면, 데이터베이스 내 LLM을 통해 기업은 히트웨이브의 벡터 스토어로 데이터를 검색하고, 콘텐츠를 생성 또는 요약하고, RAG를 수행할 수 있다. 이와는 별도로 히트웨이브 젠AI는 오라클의 OCI 제너레이티브 서비스와 통합되어 기업이 LLM 제공업체의 사전 학습된 모델 및 기타 파운데이션 모델에 액세스할 수 있다.
개편된 벡터 스토어 및 확장형 벡터 처리
최근 1년 동안 많은 데이터베이스 공급업체가 자체적인 벡터 기능을 추가하고 있다. 몽고DB, 데이터스택스, 파인콘, 코스모스DB가 대표적이다. 고객은 이런 기능을 통해 별도의 벡터 스토어나 데이터베이스로 데이터를 이동하지 않고도 데이터베이스에 저장된 데이터를 통해 AI 및 생성형 AI 기반 사용 사례를 구축할 수 있다. 작년 9월 출시된 오라클의 벡터 스토어는 쿼리를 더 빠르게 처리하기 위해 데이터를 수집한 후 자동으로 임베딩을 생성한다.
히트웨이브 젠AI에 추가된 기능은 확장형 벡터 처리다. 히트웨이브는 벡터를 데이터 유형으로 지원하면서 고객은 쿼리를 더 빠르게 처리할 수 있다.
메닝거는 “간단히 말해, 표준 관계형 데이터베이스에 RAG를 추가하는 것과 같다”라며 “테이블에 일부 텍스트를 저장하고 해당 텍스트를 임베딩하여 벡터 데이터 유형으로 저장한다. 그러면 쿼리할 때 쿼리 텍스트가 임베딩으로 변환된다. 변환된 임베딩은 표에 있는 다른 임베딩과 비교되며, 두 벡터가 가장 가깝게 위치한 경우가 가장 유사한 텍스트로 간주된다”라고 설명했다.
히트웨이브 챗 기반 그래픽 인터페이스
히트웨이브 젠AI에는 마이SQL 셸용 비주얼 코드 플러그인인 ‘히트웨이브 챗’도 추가됐다. 히트웨이브 챗은 고객에게 편리한 그래픽 인터페이스를 제공하고 개발자가 자연어 및 SQL로 질문할 수 있는 기능을 제공한다.
메닝거는 “히트웨이브 챗에 남긴 채팅 기록은 계속 유지되므로 개발자가 검색 결과를 반복적으로 개선하기 더 쉬워질 것”이라고 분석했다.
히트웨이브 챗에는 레이크하우스 네비게이터(Lakehouse Navigator)라는 기능도 지원된다. 기업 사용자가 오브젝트 스토리지에서 파일을 선택하여 새로운 벡터 스토어를 만들 때 해당 기능을 활용할 수 있다.
웨스트폴은 “채팅 기능은 벡터 스토어를 구축하는 개발자와 분석가의 사용자 경험과 효율성을 높이는 데 도움을 줄 것”이라고 말했다.
dl-ciokorea@foundryco.com
