가트너가 작년 4분기에 실시한 설문조사를 기반으로 기업 내 생성형 AI 활용 현황을 분석한 결과를 8일 발표했다.
가트너에 따르면, 응답자 중 29%는 생성형 AI를 구축하여 사용 중이며, 가장 많이 배포하는 AI 솔루션으로 생성형 AI를 꼽았다. 이는 그래프 기술, 최적화 알고리즘, 규칙 기반 시스템, 자연어 처리, 기타 유형의 머신 러닝 등 다른 솔루션보다 더 높은 것으로 나타났다.
3분의 1에 달하는 34%의 응답자는 마이크로소프트 365 코파일럿 또는 어도비 파이어플라이와 같이 기존 애플리케이션에 내장된 생성형 AI를 활용하고 있었다. 이는 엔지니어링을 통한 생성형 AI 모델 커스터마이징(25%), 맞춤형 생성형 AI 모델 훈련 및 미세 조정(21%), 챗GPT, 제미나이 등의 독립형 생성형 AI 도구 사용(19%) 등 다른 방법보다 자주 사용되는 것으로 나타났다.
응답자 중 절반가량(49%)은 AI 도입에서의 가장 큰 장애물로 AI 프로젝트 가치 추정과 입증을 꼽았다. 이는 인력 부족, 기술적 어려움, 데이터 관련 문제, 비즈니스 연계 부족, AI에 대한 신뢰 부족 등 다른 요소보다 더 높은 응답을 기록했다.
가트너의 시니어 디렉터 애널리스트 레이나 라모스는 “생성형 AI는 기업 내 AI 확장을 위한 촉매제 역할을 한다”라며 “동시에 조직은 AI를 확장할 때 프로젝트 총 소유비용과 함께, 생산성 향상 너머의 광범위한 이점도 고려해야 한다”라고 설명했다. 또한 그는 “생성형 AI는 비즈니스 전반에 걸쳐 AI 채택 수준을 높였고, 이를 통해 AI 숙련도 향상과 AI 거버넌스와 같은 후속 논의가 이어졌다. 생성형 AI는 기업이 AI 역량을 높이도록 강제하고 있다”라고 말했다.
라모스는 AI를 활용한 비즈니스 가치 창출에 어려움을 겪고 있다면, 성공적인 AI 조직의 모범 사례를 참고하라고 조언했다. 라모스는 “성숙한 AI 조직은 다양한 비즈니스 부서와 프로세스에 걸쳐 AI를 더 광범위하게 적용하고, 보다 오래 유지되는 사용 사례를 더 많이 도입하는 조직을 말한다”라고 설명했다.
가트너 설문조사에 따르면, 평균적으로 AI 프로젝트의 48%만이 실무에 적용되며, 초기 단계에서 실무에 적용하기까지는 8개월이 걸리는 것으로 나타났다. 또한, 응답 기업의 9%가 현재 AI 성숙기에 있으며 이에 해당하는 기업은 다음과 같은 4가지 기본 역량에 집중하는 것으로 나타났다.
- 중앙집중식, 탈중앙화 기능의 균형을 맞출 수 있는 확장 가능한 AI 운영 모델 활용 역량
- AI 프로젝트 구축, 배포하는 체계적인 방법을 설계하는 AI 엔지니어링 역량
- 기업 전반에 거친 AI 숙련도 향상과 변화 관리에 대한 투자 역량
- AI 도입에 따른 위험 완화, 개선된 사업 성과 창출을 위한 신뢰, 위험, 보안 관리(TRiSM) 역량
라모스는 “AI 성숙 단계에 접어든 기업은 AI 기술과 관련해 어떤 일이 발생하더라도 관련성을 유지할 수 있는 기본 역량에 투자한다. 이를 통해 더 큰 규모의 AI를 더 효율적이고 안전하게 배포할 수 있다”라고 말했다.
dl-ciokorea@foundryco.com
