지능형 챗봇, 디지털 비서, 코딩 도우미는 현재까지 비즈니스에서 생성형 AI의 활용도가 높은 영역이다.
지난 2022년 11월 챗GPT가 출시되면서 전 세계적 생성형 AI 골드러시가 시작됐다. 기업들은 이 기술을 도입하고 혁신을 선보이기 위해 앞다투어 뛰어들었다.
오늘날 비즈니스에 자리 잡은 많은 AI 사용 사례는 대부분 오래 전부터 확립된 기존 형태의 AI, 즉 머신러닝과 같은 영역에 있다. 텍스트, 사진 및 기타 데이터에 대한 생성형 AI 기능은 상대적으로 덜 활용되고 있다. 즉 챗봇, 상품 추천 엔진 및 기타 여러 유용한 도구가 기존 AI에 의존하는 경우가 많다.
엔터프라이즈 AI 플랫폼 서비스 기업 도미노 데이터 랩(Domino Data Lab)의 AI 전략 책임자인 켈 칼슨은 생명 공학 등 일부 산업에서 생성형 AI를 활용하는 방법을 찾고 있지만, 이 기술을 실험하는 많은 기업에서 현재까지 발견한 사용 사례는 제한적이라고 설명했다. 그는 이로 인해 기업이 생성형 AI의 ROI를 달성하기 어렵다고 말했다.
칼슨은 “많은 사용자의 현실은 생성형 AI 사용 사례를 활용해 AI전략을 수립할 만한 정보가 충분하지 않고 가치를 빠르게 얻지 못한다는 것이다. 현재 집중적으로 추진되는 몇 가지 사용 사례가 있지만, 기존 머신러닝과 예측 AI의 사용 사례 포트폴리오도 구축되고 있다”라고 덧붙였다.
AI 전문가들은 현재 생성형 AI 사용 사례가 빙각의 일각에 불과하다고 말했다. 생성형 AI가 더 강력해지고 사용자가 창의적으로 실험할수록 더 많은 사용 사례가 등장할 수 있다.
하지만 이미 몇몇 생성형 AI 사용 사례는 등장했다. 최근 인기 있고 유망한 몇 가지 사용 사례를 소개한다.
지능형 챗봇
단어와 구문을 인식하는 단순한 챗봇은 수십 년 동안 사용돼 왔지만, 생성형 AI 기능을 갖춘 최신 챗봇은 더 많은 고객 요청을 처리하고 보다 자연스러운 대화를 할 수 있다.
IT 분석 기관 포레스터는 2024년 10대 신기술 중 하나로 언어와 AI 에이전트를 위한 생성형 AI를 꼽았다. 예를 들어 유럽의 차량 공유 및 배달 서비스인 볼트(Bolt)는 지능형 챗봇 도입으로 대부분의 고객 불만을 처리해 막대한 비용 절감 효과를 거두고 있다.
칼슨은 생성형 AI를 실험하는 많은 기업이 환각을 우려하고 있지만, 낮은 수준의 고객 불만이라면 몇 번의 실수로 세상이 끝나지 않는다고 언급했다. 그는 “식사 결제를 거절했는데 식사를 제공한 경우 그 위험도는 매우 낮다”라고 말했다.
또 다른 예로 도이치텔레콤은 생성형 AI를 사용해 프래그 마젠타 AI 어시스턴트를 개선했다. 회사는 이 채팅 어시스턴트가 매년 3,800만 건의 고객 상호 작용을 처리할 수 있을 것으로 예상했다.
디지털 어시스턴트
마이크로소프트와 구글 등 여러 IT 대기업에서 생성형 AI 디지털 어시스턴트를 선전하고 있지만 CIO는 그 ROI를 완전히 납득하지 못할 수도 있다. 디지털 어시스턴트는 조직 내 정보를 검색하고, 문서와 슬라이드 프레젠테이션을 만들고, 이메일 체인과 화상 회의를 요약할 수 있다. 또한 공급업체의 견적 요청과 같은 공급망 관련 문서도 생성할 수 있다.
일부 화상 회의 애플리케이션은 이제 오터AI(Otter.ai) 같은 독립형 도구와 마찬가지로 스크립트와 요약을 생성하기도 한다. 그래멀리(Grammarly) 같은 앱은 문법, 철자, 구두점의 실수를 교정해 준다.
AI 기반 구매 솔루션을 제공하는 랩비바(Labviva)의 공동 창립자이자 CTO인 닉 리우는 디지털 어시스턴트를 특정 요구에 맞게 특화할 수 있다고 말했다. 예를 들어 민감한 화학 물질이나 생물학적 화합물을 정기적으로 구매하는 회사라면 생성형 AI가 구매 주문서에 특별한 취급 지침을 추가할 수 있다.
그는 “엔터프라이즈 생성형 AI의 가장 유망한 사용 사례는 콘텐츠 생성, 제안, 수작업 자동화 같은 증강 기능으로 사람이 수행하는 작업을 간소화하는 것”이라고 말했다.
코딩 어시스턴트
자주 등장하는 생성형 AI의 사용 사례 중 하나는 코딩 어시스턴트다. 생성형 AI는 기본적인 소프트웨어 코드를 작성할 수 있기 때문에 인간 프로그래머가 더 복잡한 작업에 집중할 수 있게 해준다.
데이터 오케스트레이션 스타트업 아스트로노머(Astronomer)의 CTO인 줄리안 라네브는 이런 코딩 코파일럿이 문제 발생 시 프로그래머가 검색 엔진이나 다른 리소스를 통해 답을 찾는 대신 코딩에 계속 집중할 수 있도록 도와준다고 말했다.
그는 대규모 언어 모델을 언급하며 “대신 코드 주석을 작성하고 LLM이 코드를 완성하도록 할 수 있다. 이렇게 하면 개발자는 예제를 검색하느라 집중력을 잃지 않고 ‘몰입’ 상태를 유지하며 ‘영역 내’에 머무를 수 있다”라고 말했다.
AI 컨설팅 기업 젠엣지(GenEdge Consulting)의 설립자이자 매니징 파트너인 나탈리 램버트는 생성형 AI가 웹 개발에 특히 유용하다고 덧붙였다. 생성형 AI는 웹사이트 코드를 생성해 웹 업데이트에 필요한 시간과 비용을 크게 줄일 수 있다.
램버트는 “챗GPT와 같은 도구를 활용하면 기술적 전문 지식이 없는 사용자도 웹사이트에서 직접 코드를 개발하고 구현할 수 있다. 이는 개발 프로세스를 민주화해 웹 전문가들이 AI의 도움을 받아 자신의 비전을 실현할 수 있게 해준다”라고 평가했다.
소프트웨어 개발 주기 전반에 걸쳐 생성형 AI를 구현한 많은 기업은 현재 기술의 한계와 팀에 미치는 영향, 자체적으로 얻은 교훈을 극복해 나가고 있다.
마케팅 지원
여러 AI 전문가와 사용자는 생성형 AI의 강점 중 하나로 마케팅 지원을 꼽았다. 보안 인스턴트 메신저 도구 기업 브로식스(Brosix)의 공동 창립자이자 CEO인 스테판 체카노프는 생성형 AI가 개인화된 마케팅 자료를 만들고 고객 데이터를 분석하며 콘텐츠 제작을 지원할 수 있다고 말했다.
그는 “경험상 생성형 AI 도움을 받으면 콘텐츠 제작과 소셜 미디어 관리가 훨씬 더 효율적이었다. 사소한 스케줄링, 최적화, 편집에 소요되는 시간이 줄어든다는 것은 전문가가 더 가치 있는 작업에 집중할 수 있다는 의미이며, 이는 곧 비용 절감으로 이어진다”라고 설명했다.
다른 이들은 생성형 AI가 제품 리뷰를 기반으로 시장 분석을 수행할 수 있으며, 고객이 문제를 인지하기 전에 예측할 수 있다고 언급했다.
은행 및 보험 업체인 USAA의 AI 및 데이터 과학 담당 이사 아스위니 토타는 “상품 회사의 경우 고객 피드백의 이해가 매우 중요하다. 고객이 좋아하는 것과 싫어하는 것, 새로운 트렌드, 지역별 선호도, 고객이 새로운 상품을 어떻게 평가할지 알아야 한다”라고 말했다.
그는 생성형 AI가 기업에서 설문조사를 의뢰할 필요 없이 제품 리뷰에 있는 고객 인사이트를 추출할 수 있다고 조언했다. 생성형 AI 등장 전까지 데이터 과학자들은 감정 분석과 의도 추출을 위해 맞춤형 자연어 처리(NLP) 모델을 구축했다. 이제는 생성형 AI가 더해지고 있다.
토타는 “생성형 AI를 사용하면 동일한 데이터 세트에 대해 여러 개의 프롬프트를 만들 수 있으며, 버튼 하나만 누르면 조직은 정서, 토론 주제, 사용 의도를 추출할 수 있다”라고 덧붙였다.
신약 개발
생성형 AI는 복잡한 분자를 모델링하고 그 상호 작용을 예측할 수 있다. AI 인프라 플랫폼 CUDO컴퓨트의 CMO인 라스 니먼은 “기존 방식이 전화 시대에 머물러 있는 것처럼 보일 정도로 빠르게” 신약 개발에 생성형 AI가 도입되고 있다고 말했다. 그는 이를 통해 신약 출시 속도를 크게 앞당길 수 있다고 말했다.
글로벌 IT 서비스 업체 MSR코스모스에 따르면 제약사는 생성형 AI를 통해 약물 상호 작용을 예측하고 기존 약물의 용도를 변경하며 환자의 유전자 구성을 기반으로 개인 맞춤형 치료제를 개발할 수 있다.
올해 초 엔비디아는 의료 산업을 겨냥한 AI 기반 클라라 컴퓨팅 플랫폼과 신약 개발을 위한 생성형 AI 플랫폼 ‘바이오네모’를 발표한 바 있다. 존슨앤존슨을 비롯한 일부 생명 공학 및 제약 기업은 이미 신약 개발의 차세대 핵심으로 생성형 AI를 추진하고 있다.
사이버 보안 및 사기 탐지
여러 사이버 보안 기업에서는 생성형 AI를 통해 고객의 네트워크와 컴퓨팅 인프라에서 의심스럽거나 비정상적인 행동을 찾아내는 도구를 강화하고 있다. 대화 자동화 솔루션 기업 컨버시카(Conversica)의 CEO인 짐 카스케이드에 따르면 AI 시스템은 거래 패턴과 사용자 행동을 분석해 사기 행위를 매우 명확하게 예측하는 등 고급 사기 탐지에도 사용할 수 있다.
예를 들어 팔로알토 네트웍스는 자사의 ML 모델 및 데이터 스토어에 대한 전문 지식과 구글의 빅쿼리(BigQuery) 엔터프라이즈 데이터 웨어하우스, 제미나이AI 모델을 결합한 보안 운영 플랫폼 코텍스 XSIAM을 제공하고 있다. 해당 플랫폼의 목표는 보안 분석가에게 실시간으로 위협을 알리는 동시에 사이버 보안 플랫폼이 새로운 위협에 대해 지속적으로 학습하는 것이다.
비즈니스 프로세스 강화
기업은 엔터프라이즈 비즈니스 프로세스 강화에 생성형 AI를 활용할 최적의 지점을 찾고 있다. 다시 말해 업종 고유의 비즈니스 크리티컬 워크플로우에 효율성을 제공하기 위해 생성형 AI의 활용도를 모색하고 있다.
예를 들어 금융 및 보험 업계의 일부 기업은 생성형 AI를 사용해 잠재 고객을 평가하는 언더라이터를 지원하고 있다. 중소 기업을 위한 대출 플랫폼인 크레더블리(Credibly)의 공동 CEO인 라이언 로셋은 머신러닝과 결합된 생성형 AI를 사용해 대출 위험을 평가하고 대출 프로세스를 높이고 있다고 설명했다.
그는 “크레더블리의 생성형 AI는 언더라이터에게 막강한 권한을 부여하는 데 사용된다. 핀테크 대출 회사로서 크레더블리의 성공은 자금 조달을 원하는 사업주를 빠르고 정확하게 위험 평가하는 데 달려 있다”라고 말했다.
EY 설문조사에 따르면 지난해를 기준으로 거의 모든 보험사가 생성형 AI를 도입했거나 관심을 갖고 있는 것으로 나타났다. 보험사의 약 42%가 이미 생성형 AI에 투자했으며, 약 3분의 2는 생성형 AI를 통해 10% 이상의 매출 증대를 기대했다.
한편 법률 정보 서비스 기업인 렉시스넥시스(LexisNexis)의 CTO인 제프 라일에 따르면 회사는 생성형 AI를 도입해 업계에서 파괴적 위협으로 간주되는 변화에 대응하고 있다.
그는 “모든 역량을 총동원했다. 대화형 기능과 답변의 포괄성, 데이터 생성 기능 측면에서 판도를 바꿀 수 있는 기술이었기 때문에 대대적인 개편을 단행했다. 기능 면에서 놀라웠다”라고 말했다.
이후 렉시스넥시스는 변호사들이 정확한 최신 법률 판례에 액세스할 수 있도록 링크된 법률 인용을 제공하는 자체 생성형 AI 솔루션 렉시스+AI를 출시했다. dl-ciokorea@foundryco.com
