지난 2023년 마이크로소프트는 클라우드 실행되는 대형 언어 모델(LLM)을 기반으로 한 AI 기능에 주력했다. 하지만 올해는 다르다. 21일(현지시간) 마이크로소프트는 연례 개발자 컨퍼런스 '마이크로소프트 빌드 2024'에서 새로운 소형 언어 모델(SLM) 파이 실리카(Phi Silica)를 출시했다.
파이 실리카는 마이크로소프트가 지난 4월 로컬 PC용으로 출시한 SLM ‘파이-3 미니(Phi-3 mini)‘에서 파생된 모델로, 새로운 코파일럿+ PC(Copilot+ PC)의 NPU에서 실행되도록 설계됐다.
AI와의 상호 작용 대부분은 클라우드에서 이뤄진다. 마이크로소프트의 기존 코파일럿 서비스는 PC에서도 마이크로소프트 원격 서버와 통신한다. 코파일럿과 같은 클라우드 기반 서비스인 LLM은 답변 정확성을 높이기 위해 수십억 개의 매개변수를 포함한다.
하지만 곧 출시될 윈도우 11의 리콜(Recall) 검색 엔진은 개인정보 보호를 위해 로컬에서 실행된다. 자신의 PC 활동 내역이 클라우드에 전송되는 것을 원하는 사용자는 없을 것이다. 또한 LLM은 일반적인 PC에서 실행하기에는 너무 많은 메모리와 저장 공간을 필요로 한다. 이것이 바로 마이크로소프트가 소형 언어 모델 파이 실리카를 개발한 이유다.
마이크로소프트는 리콜을 비롯한 코파일럿+ PC의 AI 기능이 이런 종류의 SLM에 의존하게 될 것이라고 밝혔다. 파이 실리카는 33억 개의 매개변수를 갖추고 있으며, 더 작은 언어 모델의 정확도와 속도를 위해 미세 조정됐다.
마이크로소프트는 블로그 게시물에서 “윈도우는 NPU를 위해 맞춤 제작된 최첨단 SLM을 탑재한 최초의 플랫폼”이라고 말했다.
또한 마이크로소프트는 파이 실리카가 “즉시 사용할 수 있는(out of the box)” 솔루션이라고 언급했다. 이는 파이 실리카가 코파일럿+ PC에서 로컬 버전 코파일럿으로 제공된다는 의미일 수 있다. 마이크로소프트는 이런 부분에 대해 명확하게 설명하지 않았지만, 코파일럿+ PC가 출시되는 6월 23일이 되면 알게 될 것이다.
editor@itworld.co.kr
