챗GPT 1주년이 다가오고 있는 가운데, 곳곳의 IT 리더들은 생성형 AI 실험과 현장 배치에 박차를 하고 있다. 다양한 우려가 있음에도 불구하
2022년 11월 오픈AI의 챗GPT 발표와 그 후 이루어진 마이크로소프트의 100억 달러 자금 지원은 ‘전 세계에 울려 퍼진 신호탄’과 같았다. 생성형AI의 가능성에 관한 논의는 이후 폭발적으로 증가했다.
가속화된 논쟁과 증폭된 규제 불확실성 속에서도 IT 리더들은 이 기술의 파괴적 잠재력을 파악하기 위해 빠르게 움직였다. 실제로 대부분의 기업 CIO들은 향후 2년 이내에 다수의 생성형 AI 애플리케이션을 배포할 계획을 수립하고 있다. 최근 가트너의 조사에 따르면, 약 2,500명의 CIO 중 9%가 생성형 AI 애플리케이션을 미리 배포했다고 답했으며 놀랍게도 무려 55%는 2025년 말까지 대규모 언어 모델(LLM)을 비즈니스 현장에 배포할 것이라고 답했다.
가트너의 AI 애널리스트 아룬 찬트라세카란은 초기 사용 사례로 콘텐츠 작성, 문서 요약, 감정 분석 및 엔터프라이즈 검색을 언급하며 “현재 많은 파일럿 프로그램이 출현하고 있다”라고 전했다.
이러한 동향은 파운드리가 약 1,000명의 IT 의사결정권자를 대상으로 실시한 최근 설문조사에서도 확인된다. 생성형 AI에 관심을 보인 IT 임원의 92% 중 57%는 사용 사례 파악에 분주하며, 45%는 파일럿 프로그램을 시작하고 있다. 또한 41%는 생성형AI에 대한 직원 교육을 실시하고 있으며, 40%는 정책 및 지침을 수립하고 있다. 뿐만 아니라 IT 임원 5명 중 4명은 생성형 AI를 활용해 개발자의 생산성을 보강 및 개선할 계획을 가지고 있었다.
파운드리 AI 우선순위 서베이 2023
카맥스, 골드만삭스, 코카 콜라, 로레알, 조지아퍼시픽, 나스닥 및 보다폰 등은 프로덕션 워크로드를 배포하는 등 LLM을 도입하고 있다고 공개적으로 발표한 기업들 중 일부다. 8월 말 GPT-4를 기반으로 한 오픈AI의 챗GPT 엔터프라이즈 출시 발표는 에스티로더, PwC, 자피어(Zapier), 블록(Block), 칼라일(Carlyle)이 이를 앞서 사용했다는 내용을 담고 있다.
즉, 챗GPT 출시 1주년이 다가오며 비즈니스 세계는 새로운 생성형 AI가 촉진한 기능 및 플랫폼의 기반을 마련하는 데 있어 전환기에 이른 듯 보인다.
생성형 AI 바람
생성형 AI에 대한 초기 시도는 마이크로소프트, 구글 및 아마존의 클라우드 AI 플랫폼에서 주로 이뤄지고 있다. 각종 가드레일 및 거버넌스 조치와 함께다.
카맥스의 CITO인 샤밈 모하메드는 그의 회사가 마이크로소프트의 고도로 대중화된 오픈AI 투자 훨씬 이전에 시범적으로 GPT-3.x 자연어 모델을 사용하고 있었다고 밝혔다. 현재 그의 회사는 자동차 관련 콘텐츠 제작을 간소화하고 프로그래머들이 고객 경험을 더욱 개선하도록 하기 위해 GPT-4의 활용을 확대하고 있다.
메르세데스 벤츠 또한 마이크로소프트 애저 오픈AI 서비스를 활용함으로써 차량 내 음성 제어 기능성을 향상하고 있다. 회사의 IT 조직은 마이크로소프트의 AI 특화 애저 플랫폼과 함께 오픈 AI의 GPT-4 및 GPT-3.5를 활용하고 있다.
캘리포니아 팔로 알토에 기반을 둔 온라인 보험사인 제리(Jerry)의 존 스포티스우드는 더 지능적이고 향상된 챗봇으로 고객 요청을 처리하기 위해 LLM 기반 플랫폼을 개발하고 있다. 그는 “주로 오픈 AI 있고 챗GPT를 호출하고 있으며 GPT-4 및 GPT-3.5를 혼합해 활용하고 있다. 또한 오픈AI API가 응답하지 않을 경우에는 클로드 2(Claude 2)를 사용할 수 있도록 했다”라고 설명했다.
9월에 딜로이트 AI 연구소는 생성형 AI 전환에 적합한 사업군으로 금융 서비스, 기술, 미디어 및 통신, 에너지 자원 및 산업, 소비자, 정부 및 공공 서비스, 생명 과학 및 의료 분야를 언급한 보고서를 발표했다.
IDC의 AI 및 자동화 연구 그룹 부사장인 리두 조티는 “생성형 AI의 사용이 광범위해짐에 따라 많은 산업 부문에서 심각한 혼란이 발생하고 있다”라고 진단했다.
금융 보안 회사인 에이펙스(Apex)는 아마존의 베드록 생성형 AI(Bedrock gen AI) 기술과 통합된 젠팩트(Genpact)의 리스크캔버스(riskCanvas) 소프트웨어를 초기에는 문서 요약에 활용하고 있다. 회사의 금융 범죄 컴플라이언스 책임자인 저스틴 모건은 에이펙스가 향후 궁극적으로는 금융 범죄 예방에 생성형 AI를 활용할 방침이라고 전했다.
그는 “에이펙스는 이 기술을 비즈니스에 구현한 초기 기업 중 하나다. 이 수준으로 프로덕션에 AI를 활용하는 예는 많지 않다”라고 말했다.
한편 모건은 현재 AI가 금융범죄 혐의 판단을 위해 분석을 수행하고 있지는 않다고 설명하며, “분석가가 최초 요약에서 제공한 정보를 토대로 서술 부분을 생성해내고 있다”라고 말했다.
스냅(Snap), 렉시스넥시스(LexisNexis) 및 론리 플래닛(Lonely Planet)도 각각 AWS에 저장된 자체 데이터를 사용해 LLM 모델을 훈련하고 있다.
론리 플래닛의 엔지니어링 담당 SVP인 크리스 와이드는 “아마존 베드록에 있는 앤트로픽 LLM과 함께 검색 증강 생성 및 신속한 엔지니어링 활용해 시스템을 구축해 경험을 추출한 다음, 이러한 경험을 프린트 콘텐츠 코퍼스에서 여행 일정으로 구성한다”라고 설명했다.
또 다른 AWS 고객인 나스닥은 LLM을 활용해 “회사의 자체 데이터 세트로부터 나스닥의 마케팅 및 커뮤니케이션 팀이 새로운 인텔리전스 보고서를 작성”하도록 하고 있다. 이 보고서는 콘텐츠를 만드는 투자자 및 기업 고객을 대상으로 한다.
나스닥 CIO이자 CTO인 브래드 피터슨은 최근 CIO닷컴과의 인터뷰에서 생성형 AI가 “차세대 기술을 대표한다”라고 언급했다. 그에 따르면 나스닥은 이를 금융 범죄 위험을 파악하고 기업 이사회가 프레젠테이션 및 필요 공시를 더욱 효율적으로 생산 및 소비할 수 있도록 하기 위한 금융 SaaS 제품으로 개발할 것이라고 설명했다.
기술 서비스 회사 위프로(Wipro)의 구글 비즈니스 그룹 책임자인 톰 리처 또한 생성형 AI의 혁신적 잠재력 탐구를 갈망하는 CIO들의 관심 역시 빠르게 증가하고 있다고 전했다. 그는 “많은 이들이 생성형 AI가 IT 운영을 효율화하고 데이터 관리를 강화하며 의사 결정을 향상하기 위해 어떠한 방식으로 활용될 수 있는가를 평가하기 위한 개념 증명 프로젝트를 수행하고 있다”라고 말했다.
그는 한 생명 과학 회사가 계약 관리 비용을 절감하고 회사 정책에 대한 합의 준수를 향상하기 위해 구글의 생성형 앱 빌더(Gen App Builder)를 활용한 최근의 개념증명 사례를 인용했다.
리처는 “이 프로토타입의 경우 정책에 따라 계약 관리자가 제공하는 구조화된 프롬프트를 사용해 공급업체 계약을 생성했다. 개념증명 프로젝트를 통해 계약 생성, 조항 검색 및 요약, 계약 관리 기능의 전반적인 정확도에 들어가는 시간을 상당히 절감할 수 있음이 확인됐다”라고 설명했다.
한편 기존 AI 벤더들 또한 고객과 더욱 가까워지기 위해 고급 생성형 AI 플랫폼 제공을 위해 전속력을 다하고 있다. 예를 들어, 데이터브릭스(Databricks)은 고객들이 자신의 AI 애플리케이션에 LLM을 사용할 수 있도록 하기 위해 모자이크ML(MosaicML)을 인수했다.
또 다른 AI 벤더인 C3 AI는 지난 달 28개의 도메일 특정 생성형 AI 제품을 갖춘 강화된 생성형 AI 제품군을 출시했다. C3에 따르면, 설탕 생산업체인 판탈레온(Pantaleon)은 매출 예측 보완을 위해 C3 생성형 AI를 활용하고 있으며, 조지아-퍼시픽(Georgia-Pacific)은 이를 제조 공정 지식에 활용하고 있다. 또한 플린트 힐 리소스(Flint Hill Resources)는 상품 거래 최적화를 위해 LLM 기반 플랫폼을 구축하고 있으며, 미국 미사일 방어국(US Missile Defense Agency)은 철강 제조 시 안전성 개선을 위해 이를 활용하고 있다.
위험과 보상 간 균형 잡기
일론 머스크를 비롯한 여러 IT 유명인사는 올해 초 잠재적으로 ‘문명’을 파괴할 수 있다며 AI 기술들을 향한 광란의 경쟁을 6개월 동안 중단할 것을 요구하는 공개 서한에 서명한 바 있다.
구글 소유의 딥마인드 공동 설립자이자 현재 인퓨전 AI의 CEO인 무스타파 설리만은 그의 저서 ‘다가오는 물결: 기술, 힘 그리고 21세기 최대의 딜레마(The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma)’에서 더욱 발전된 생성형 AI와 합성 생물학의 결합에 대해 경고했다. 최근 팟캐스트에서 그는 생성형 AI가 인간의 개입 없이 단독으로, 인간이 이해할 수 있는 수준을 훨씬 넘어서는 규모로 의사결정을 내릴 수 있는 조직 소유의 ‘인공지능’으로 진화할 수 있다고 전망했다.
설리만 등은 핵무기 및 생물학적 무기 관리되는 방식과 유사한 프레임워크 및 법을 활용해 책임감 있는 사용을 엄격히 시행하도록 인간의 개입이 필요하다고 주문했다.
그러나 생성형 AI에 대한 집중적 관심이 CIO 및 벤더의 실험을 가속화하고 있다. MIT 슬론 경영대학원의 수석 강사인 조지 웨스터먼은 “이야기해 본 기업들 중 세상을 파괴하는 사악한 천재 AI를 만들 것인가에 대해 우려하는 기업은 없었다. 이들은 당장 직면한 비즈니스 과제 해결을 위해 노력하고 있을 뿐이다”라고 말했다.
대부분의 CIO에 생성형 AI는 그저 생산성 향상을 의미한다. 파운드리의 AI 우선순위 연구 2023(AI Priorities Study 2023)에 참여한 응답자 중 거의 60%는 생성형 AI가 직원 생산성에 상당한 역할을 할 것이라는 데 동의했으며, 55%는 생성형 AI가 도입된 제품이 더 나은 비즈니스 결과를 만들어 낸다고 답했다.
파운드리 AI 우선순위 서베이 2023
전력 공급 장치 전문 대기업인 제너락(Generac)은 생성형 AI에 전력을 다하고 있는 기업 중 하나라고 CIO인 팀 딕슨은 설명했다.
그는 “3개의 혁신적인 파일럿 프로그램을 추진하는 등 생성형 AI를 적극적으로 수용하고 있다. 먼저 내부 기업 탐색을 위해 GPT-3.5의 프라이빗 인스턴스를 출시했다. 그런 다음 고객 서비스 담당자를 위한 고객 전화 질문 응답을 위해 고객 서비스 챗봇을 출시했다. 마지막으로 데이터 레이크를 사용해 특정 고객 이메일을 더욱 개선 및 맞춤화해 제품 신뢰성을 향상하고 궁극적으로는 매출을 개선했다. 이 3가지 프로그램의 경우, 이미 비즈니스 가치를 창출하고 있다”라고 설명했다.
또한 이는 위험 감수를 필요로 한다고 그는 언급하며, “회사 내에서 생성형 AI 문화를 주입하고 있다”라고 전했다.
그럼에도 불구하고 생성형 AI 확산으로 인해 CIO들은 초조해하는 측면도 분명 있다. 최고 경영진들 사이에 기업 가드레일, 프레임워크 및 책임 공유에 대한 강조가 분명 늘어났다.
파운드리의 AI 설문조사에 따르면, 보안 및 개인정보의 경우 여전히 IT 리더의 주요 관심사이고, 진정성, 편향 및 설명 가능성도 마찬가지이며, 이들 중 24%가 오용에 관해 우려하고 있다. CIO들은 또 ‘환각’이라고도 불리는 오류나, 회사 및 사회 전반에 미칠 수 있는 부정적 결과에 대해 홀로 책임지지 않기를 바라고 있었다.
파운드리 AI 우선순위 서베이 2023
가트너의 부사장 겸 애널리스트인 맨디 비숍은 “경영진의 공동 문제여야 한다. CIO들은 단순히 발언권을 갖는 것에서 더 나아가 기업 전체가 기술 및 비즈니스 결과에 대한 책임을 공유하기를 원한다”라고 말했다. 또한 CIO들은 비즈니스 및 IT 전문가를 하나로 합친 ‘융합 팀’이 AI 애플리케이션을 공동 소유하고 제공하기를 바라고 있다고 그는 덧붙였다.
인간적 측면
파운드리의 AI 프라이어리티 스터디 2023에 따르면, 비즈니스 CIO 대다수는 가까운 미래에 고객 지원, 콘텐츠 제작, 데이터 보강, 개인 맞춤형 권장 사항 및 제품 설계 분야에 AI를 적용할 가능성이 높다. 또한 기업용 소프트웨어 벤더들은 제품에 대한 새로운 AI 기능을 점차 더 많이 발표함에 따라 많은 기업들이 이미 이용 중인 플랫폼에서 AI 개선이 이루어질 것이다.
최근 노이스턴 대학의 루 인스티튜트(Roux Institute)에서 열린 생성형 AI 포럼에서 약 30명의 보스턴 지역 CIO들과 함께 AI 전략에 대해 논의한 테라다인(Teradyne)의 CIO 셰넌 가스는 그의 회사가 현재 생성형 AI를 보조적으로 활용하고 있다고 밝혔다. 빙 엔터프라이즈(Bing Enterprise)에 더해 생성형 AI 기능이 탑재된 보안 제품을 통해 사용하고 있다는 설명이다.
그러면서도 그는 CIO닷컴의 리더십 라이브의 최근 에피소드에서 생성형 AI가 향후 수십 년간 비즈니스 세계 및 사회에 대한 핵심적인 변혁 요소로 작용할 것이라고 전망했다.
그는 “상당히 현실적이다. 모든 이가 매일 같이 이 기술을 접하고 있다”라며 회사의 생성형 AI 활용에 대해 이야기했다. 그리고 인간 일자리 대체와 AI에 대한 공통적인 우려에 대해서는 “생성형 AI를 사용하는 인간이 생성형 AI를 사용하지 않는 인간을 대체할 것이다”라고 표현했다.
단기적으로 인간 및 AI 기반 지능형 기계 간 상호작용에 대한 투자는 곧 비즈니스 가치를 개선, 산업 전반에 걸친 진정한 파괴력을 의미한다. 이 모든 상황이 어디로 흘러갈 것인가에 대한 우려에도 불구하고 이를 추진하고자 하는 IT 리더들의 의지가 담긴 영역이다.
론리 플래닛의 와이드는 “생성형 AI가 우리 시대를 결정하는 기술이 될 것이며 이 기술 활용에 있어 승자들은 큰 승리를 거머쥘 것이다. 낙오되는 것에 대한 두려움이 현재 기술 리더들의 마음에 자리하고 있는 주요 요인이다”라고 말했다.
그럼에도 와이드는 “AI 도입의 위험에 대한 걱정 중 일부는 실제로 우려스럽다”라며 현재 그리고 향후 CIO들 앞에 펼쳐질 어려움에 대해 덧붙였다.
dl-ciokorea@foundryco.com
