자세히 보기

Paul Krill
Editor at Large

“메타 라마2 API로 최초 지원” ···서버리스 생성형 AI 서비스 ‘아마존 베드록’ 공

아마존웹서비스(AWS)가 생성형 AI 서비스 ‘아마존 베드록’의 공식 버전을 출시했다. 마이크로소프트 및 구글이 자사 AI 모델을 전면에 내세우는 반면 AWS는 앤트로픽, 코히어, 메타 등 외부 기업의 AI 모델 활용을 돕는 서비스 제공에 집중하고 있다.

생성형 AI 애플리케이션 구축을 위한 파운데이션 모델을 제공하는 서버리스 관리형 서비스 아마존 베드록(Amazon Bedrock)이 28일 공식 출시됐다. 지난 4월 비공개 프리뷰 버전으로 공개된 아마존 베드록은 공식 버전으로 출시되면서 한국을 비롯한 모든 사용자가 접근할 수 있다. 

파운데이션 모델(Foundation model)은 대량의 데이터로 사전 학습된 매우 큰 규모의 머신러닝 모델이다. AI21랩스, 앤트로픽, 코히어, 메타, 스테이빌리티AI 같은 기업에서 이러한 파운데이션 모델을 제공하고 있으며, 아마존 베드록을 이용하면 하나의 API로 해당 모델을 이용할 수 있다. 이번 공식 버전에서는 아마존 타이탄 임베딩(Titan Embeddings)과 메타 라마(Llama) 2가 추가된 게 특징이다. 

AWS에 따르면, 파운데이션 모델은 검색, 콘텐츠 제작, 신약 개발 등에 활용할 수 있다. AI 코딩 도구인 아마존 코드위스퍼러(CodeWhisperer)도 이번에 새로 업데이트되면서 보다 정교화된 AI 기반 코드를 제안받을 수 있다. AWS가 언급한 아마존 베드록의 핵심 장점은 다음과 같다. 

• 업계 주요 파운데이션 모델 지원
• 사용자 데이터로 모델 사용자 지정


• 기업 내부 데이터로 파운데이션 모델의 성능을 높이는 RAG(Retrieval-Augmented Generation) 지원
• 데이터 보안 및 컴플라이언스 인증

AWS 고객은 아마존 베드록으로 다양한 파운데이션 모델을 실험하고 독점 데이터를 사용하여 비공개로 맞춤화할 수 있다. 또한 아마존 베드록에는 코드를 작성할 필요 없이 여행 예약, 보험 청구 처리, 재고 관리 등 복잡한 비즈니스 작업을 실행하는 관리형 에이전트가 포함되어 있다.
dl-ciokorea@foundryco.com

Paul Krill

Paul Krill is editor at large at InfoWorld. Paul has been covering computer technology as a news and feature reporter for more than 35 years, including 30 years at InfoWorld. He has specialized in coverage of software development tools and technologies since the 1990s, and he continues to lead InfoWorld’s news coverage of software development platforms including Java and .NET and programming languages including JavaScript, TypeScript, PHP, Python, Ruby, Rust, and Go. Long trusted as a reporter who prioritizes accuracy, integrity, and the best interests of readers, Paul is sought out by technology companies and industry organizations who want to reach InfoWorld’s audience of software developers and other information technology professionals. Paul has won a “Best Technology News Coverage” award from IDG.

이 저자의 추가 콘텐츠