IBM이 자연어 및 코딩 작업에 생성형 AI를 활용하는 그래닛 시리즈 파운데이션 모델을 공개했다. 또한 왓슨X의 생성형 AI 기능이 데이터 레이크하우스에 추가될 예정이다.
IBM이 지난 7일 AI 제작 플랫폼 왓슨X(Watsonx)의 생성형 AI 역량을 강화하는 새 파운데이션 모델 ‘그래닛(Granite)‘을 발표하고 ‘왓슨x.ai(Watsonx.ai)’ 스튜디오와의 호환성을 개선한다고 밝혔다.
멀티 사이즈 파운데이션 모델 제품군인 그래닛 시리즈는 ‘디코더’ 아키텍처를 사용하며 언어 및 코드 작업에 생성형 AI를 활용한다. 또 요약, 콘텐츠 생성, 인사이트 추출과 같은 엔터프라이즈 NLP(자연어 처리) 작업을 지원한다.
IBM은 출시를 앞둔 그래닛 시리즈의 학습 데이터를 생성하기 위해 데이터 프로세싱 및 필터링 단계를 거쳤다. 이에 대한 설명과 데이터 소스에 대한 종합 목록도 제공한다. 또한 IBM 클라우드의 왓슨x.ai에서 코드 생성을 위해 메타 라마2-챗(Llama2-chat)의 700억 개 파라미터 모델과 스타코더(StarCoder) LLM 등 타사 모델도 제공할 계획이다.
왓슨x.ai 모델은 IBM 엔터프라이즈 맞춤형 데이터 레이크에서 학습된다. IBM에 따르면 왓슨에 구축된 학습 프로세스는 엄격한 데이터 수집을 특징으로 하며, 거버넌스, 리스크 평가, 규정 준수 및 편견 완화를 위해 모델 및 애플리케이션을 배포할 때 컨트롤 포인트를 활용한다. 왓슨X 플랫폼에 추가 예정인 기능은 다음과 같다.
ㆍ왓슨x.ai용 튜닝 스튜디오는 자체 엔터프라이즈 데이터를 활용해 고유한 다운스트림 작업에 파운데이션 모델을 적용할 수 있는 메커니즘을 제공한다. 튜닝 스튜디오는 9월 중 출시될 예정이다.
ㆍ왓슨x.ai용 합성 데이터(synthetic data) 생성기는 사용자가 지정 데이터 스키마 또는 내부 데이터 세트에서 표 형식의 인공 데이터 세트를 구축할 수 있도록 지원한다. 사용자는 위험을 줄이면서 AI 모델 학습 및 미세 조정을 위한 인사이트를 추출할 수 있다. 이 기능도 9월 중 출시된다.
ㆍ왓슨x.데이터(Watsonx.data) 레이크하우스의 데이터 스토어에 왓슨x.ai 생성형 AI 기능이 통합된다. 사용자는 자연어 인터페이스를 통해 데이터를 검색, 시각화, 정제할 수 있다. 이 기능은 올해 4분기에 프리뷰로 제공된다.
ㆍ왓슨x.데이터는 벡터 데이터베이스 기능을 통합해 왓슨x.ai RAG(Retrieval-Augmented Generation) 유즈 케이스를 제공한다. 이는 4분기에 프리뷰 버전으로 출시할 예정이다.
ㆍ생성형 AI의 모델 리스크 거버넌스를 왓슨x.거버넌스(Watsonx.governance)의 기술 프리뷰로 출시한다. 이를 통해 사용자는 자동 수집된 파운데이션 모델의 세부 정보와 모델 리스크 거버넌스 기능을 탐색할 수 있으며, 전사적 AI 워크플로우 대시보드에서 관련 메트릭을 확인할 수 있게 된다.
IBM은 하이브리드 클라우드 소프트웨어 및 인프라 전반에 왓슨x.ai의 혁신 기능을 탑재할 예정이다. 세부 항목은 다음과 같다.
ㆍ기술 프리뷰 버전 공개를 앞둔 지능형 IT 자동화(Intelligent IT automation) 기능에는 자동화 제품인 인스타나(Instana)와 AI옵스(AIOps) 지원이 추가된다. 또한 IT 운영 실무자가 사고(incident) 정보를 요약하는 데 유용한 지능형 문제 해결(Intelligent Remediation) 기능(왓슨 x.ai의 생성형 AI 파운데이션 모델 내장)도 포함된다. 또 엔지니어가 솔루션을 구현하는 데 유용한 규범 워크플로우(prescriptive workflow) 제안 기능이 추가된다.
ㆍ’왓슨X를 위한 개발자 서비스(developer services for Watsonx)’는 개발자가 왓슨X 기능을 SAP 워드로드용 IBM 파워(IBM Power) 시스템의 데이터에 더 쉽게 적용할 수 있도록 지원한다. 왓슨X용 SAP ABAP 소프트웨어 개발 키트(SDK)에는 사용자가 AI를 활용해 IBM 파워 시스템의 데이터 근방에서 추론하고 민감 데이터 및 트랜잭션에 AI 알고리즘을 배포할 수 있는 기능이 추가된다. 서비스는 2024년 1분기에 출시될 예정이다. dl-ciokorea@foundryco.com
