AWS가 새로운 AI 서비스 ‘아마존 베드록(Amazon Bedrock)’을 14일 공개했다. 아마존 베드록을 통해 기업은 자체 생성 AI 애플리케이션을 구축할 때 필요한 모델을 쉽게 선택 및 활용할 수 있다.
아마존 베드록은 AI21랩스, 스태빌리티AI, 앤스로픽(Anthropic), 아마존이 개발한 AI 모델을 API로 통해 누구나 이용할 수 있게 열어둔 서비스다. 이를 통해 기업은 외부 AI 모델을 결합해 맞춤 AI 애플리케이션 개발을 보다 쉽게 할 수 있다.
베드록에서 이용할 수 있는 모델에는 아마존이 직접 만든 아마존 타이탄(Titan) FM이 포함됐다. 타이탄 FM 모델은 두 개의 새로운 LLM(일반적으로 사람과 같은 응답을 생성하기 위해 방대한 텍스트 데이터에 대해 훈련된 AI 모델)으로 구성돼있다. 타이탄 FM은 14일 프리뷰 형태로 공개됐으며, 향후 몇 달 내에 공식 버전이 나올 예정이다.
AWS에 따르면 타이탄 FM의 첫 번째 모델은 요약, 텍스트 생성, 분류, 개방형 Q&A, 정보 추출 등의 작업을 위한 생성 LLM이다. 두 번째 모델은 텍스트 입력(단어, 구문 또는 텍스트의 큰 단위)을 텍스트의 의미를 포함하는 수치 표현(임베딩이라고도 표현)으로 변환하는 LLM이다.
AWS 데이터베이스·분석·머신러닝 부문 부사장 스와미 시바수브라마니안은 공식 블로그를 통해 ”LLM은 텍스트를 생성하지 않지만 임베딩을 비교함으로써 단어 일치보다 더 관련성 있고 상황에 맞는 응답을 생성하기 때문에 개인 설정 및 검색과 같은 애플리케이션에 유용하다”라고 설명했다.
AWS는 “이러한 기반 모델을 기업 내에서 맞춤 활용할 수 있도록 유해 데이터를 탐지하고 제거하도록 지원했으며, 결과값에서도 유해 콘텐츠를 제거할 수 있다”라고 밝혔다.
시바수브라마니안은 “아마존 베드록은 애플리케이션에 통합 및 배포하기 전에 다양한 사용 사례에 적합한 모델을 찾아 엔터프라이즈 데이터 세트에 맞게 사용자 지정할 수 있다”라며 “고객은 단순히 아마존 S3에 저장된 특정 데이터를 베드록과 연결해 놓으면, 대량의 데이터에 주석을 달 필요 없이 특정 작업에 대해 모델을 미세 조정할 수 있다”라고 설명했다.
AWS는 베드록의 장점으로 엔터프라이즈 데이터를 사용하지 않는 점을 꼽았다. 시바수브라마니안은 “고객의 데이터 중 어떤 것도 모델을 훈련하는 데 사용되지 않으며 모든 데이터는 암호화된다. 따라서 고객의 VPC(Virtual Private Cloud)에서 데이터가 유출되지 않고 고객은 자신의 데이터가 개인적이고 기밀로 유지될 것이라고 신뢰할 수 있을 것”이라고 덧붙였다.
타이탄 FM 모델 외에도 베드록은 스페인어, 프랑스어, 독일어, 포르투갈어, 이탈리아어 및 네덜란드어로 텍스트를 생성하는 AI21랩스의 다중 언어 LLM 제품을 지원한다. 또한 구글의 투자를 받은 앤스로픽의 LLM인 클로드(Claude)도 베드록에서 지원되며 클로드는 다양한 대화 및 텍스트 처리 작업을 수행할 수 있다. 텍스트를 이미지로 바꾸는 스태빌리티AI의 모델도 베드록에서 활용할 수 있다.
AWS는 14일 베드록 외에도 AI 코딩 도구인 ‘코드 위스퍼러’ 제품 업데이트도 발표했다. 앞으로 코드 위스퍼러는 파이썬, 자바, 자바스크립트, 타입스크립트, C# 외에도 고(Go), 코틀린(Kotlin), 러스트(Rust), PHP, SQL을 포함한 10개의 새로운 언어를 지원한다. AWS는 또한 AWS 인퍼런시아2(AWS Inferentia2)에서 제공하는 Inf2 클라우드 인스턴스의 공식 출시를 발표했다.
dl-ciokorea@foundryco.com
