생성형 AI 워크로드를 실행하기 위한 풀스택 플랫폼인 ‘GPT 인 어 박스’(GPT-in-a-Box)는 엔비디아 NIM과 허깅 페이스 LLM 라이브러리를 통합한다.
클라우드 소프트웨어 기업 뉴타닉스가 ‘뉴타닉스 AI 파트너 프로그램’을 출시했다. AI 솔루션 및 서비스 파트너를 통합하는 이 프로그램은, 뉴타닉스 클라우드 플랫폼과 뉴타닉스의 GPT-인 어 박스 플랫폼에서 생성형 AI 애플리케이션을 실행하고자 하는 고객을 대상으로 한다.
5월 21일에 공개된 뉴타닉스 AI 파트너 프로그램은 고객 기업이 확장된 AI 파트너 에코시스템에 간편하게 액세스하여 실제 생성형 AI 솔루션을 제공할 수 있도록 지원한다. 파트너사들은 조직이 주요 AI 사용 사례를 대상으로 뉴타닉스 클라우드 플랫폼 및 뉴타닉스 GPT 인 어 박스 솔루션을 기반으로 타사 및 자체 개발한 생성형 AI 애플리케이션을 구축하고 보호할 수 있도록 지원하게 된다.
뉴타닉스는 이 파트너 에코시스템이 의료, 금융 서비스, 법률 및 전문 서비스 등 산업 전반의 운영, 사이버 보안, 사기 탐지, 고객 지원 등 다양한 사용 사례를 해결하는 데 도움이 될 것으로 기대했다. 초기 파트너로는 코디움(Codeium), 데이터로봇(DataRobot), 디큐(Dkue), 인스타베이스(Instabas)e, 뉴럴 매직(Neural Magic), 런AI(RunAI) 등이 있다.
뉴타닉스는 또한 올해 하반기에 출시 예정인 풀스택 AI 플랫폼의 업그레이드 버전인 GPT 인 어 박스 2.0을 발표했다. 이 플랫폼은 확장된 엔비디아 가속 컴퓨팅 및 LLM(대규모 언어 모델)을 지원하는 한편, 간소화된 모델 관리 및 엔비디아 NIM(엔비디아 추론 마이크로서비스) 및 허깅 페이스 LLM 라이브러리와의 통합을 제공한다.
뉴타닉스 GPT 인 어 박스는 엔터프라이즈 AI 도입을 간소화하기 위한 풀스택 플랫폼이다. 데이터 및 모델 저장을 위해 뉴타닉스 오브젝트 및 뉴타닉스 파일과 통합돼 있다. GPT 인 어 박스 2.0에는 기초 모델 관리, API 엔드포인트 생성 및 최종 사용자 액세스 키 관리를 위한 통합 사용자 인터페이스가 포함된다. 또한 엔비디아 텐서 코어 GPU를 통합할 예정이다. dl-ciokorea@foundryco.com