챗GPT의 사용량이 지속적으로 증가하고 있다. 현재 월 방문 건수는 18억 회 이상, 일일 쿼리 건수는 1,000만 건을 넘어섰다. 챗GPT의 근간인 GPT-4 대형 언어 모델(LLM)은 구글 람다, 허깅 페이스의 블룸, 엔비디아의 네모 LLM 등과 경쟁하고 있다.
챗GPT, LLM 및 기타 생성형 AI 기능을 둘러싸고 흥분, 두려움, 과대 광고, 투자가 모두 존재한다. 조직과 개인들이 실험에 착수하고 있다. 이러한 기능 중 다수가 개시된 지 1년도 되지 않았지만 적어도 두 가지 핵심 질문은 던져볼 만하다. 챗GPT 및 LLM은 어디에서 비즈니스 가치를 제공하고 있는가? 위험하거나 주의해야 할 행동은 무엇인가?
생성형 AI가 빠르게 진화하고 있기 때문에 답은 간단하지 않다. 예를 들어, GPT-4는 2023년 3월에 처음 발표되었고 5월에는 모든 챗GPT 사용자들이 이용하는 LLM이 되었다. 또한 한 사람과 회사에 잘 작동하는 것이 다른 사람들에게는 적용되지 않을 수 있다. 특히 프롬프트 엔지니어링이라는 새로운 기술 때문이다.
하지만 기업이 소극적인 태도를 유지하기란 어렵다. 라스고의 CTO이자 공동 설립자인 패트릭 도거티는 “챗GPT와 LLM가 비즈니스의 근본적인 방정식을 바꿀 수 있다. 기업 성과가 인간 노동력의 투입량에 의해 발목 잡히지 않게 될 것이다. 어쩌면 유일한 한계는 전략적 의사 결정의 품질이 될 것이다”라고 말했다.
과장된 것은 무엇이고, 오늘날의 현실은 무엇일까? 앞으로 몇 년 동안 무엇이 어떻게 진화할까? 아래는 챗GPT가 할 수 있는 것과 할 수 없는 것, LLM로 해야 할 것과 하지 말아야 할 것에 대한 몇 가지 지침이다.
1. 공개 LLM에 기밀을 공유하지 말 것
K2 글로벌 커뮤니케이션즈의 공동 설립자이자 COO인 에이미 케닉스버그는 “통제할 수 있다면 AI는 유용하다. 우리 대부분은 약관 페이지에서 ‘동의합니다’를 클릭하지만, AI 툴의 약관에 대해서는 자세히 읽을 필요가 있다”라고 말했다.
많은 회사들이 챗GPT 정책 초안을 마련하는 중이다. 비즈니스에 민감한 정보를 공유하는데 따른 위험에 대해 관심이 높다. 최근 삼성전자에서도 엔지니어가 기업의 독점 코드를 챗GPT에 입력해 디버깅하는 사태가 벌어져 눈길을 끈 바 있다.
케닉스그는 “챗GPT를 비롯한 많은 AI 툴의 문제는 사용자가 입력한 모든 정보가 훈련 데이터 세트의 일부가 된다는 것이다. 만약 누군가가 독점적인 데이터를 입력한다면, 그 정보가 경쟁업체의 자료에 나타날 수도 있다. 만약 고객을 분석하기 위해 개인 식별 가능한 정보 (PII)를 입력한다면, 그 회사는 GDPR, CCPA 또는 많은 개인 정보 보호 규정들 중 하나를 위반할 수 있다”라고 말했다.
기업은 사용 사례를 실험하고 탐색하기 전에 내부 AI 및 데이터 거버넌스 정책을 검토하고 컴플라이언스에 대비해야한다.
2. 주요 업무 툴 내의 LLM 기능 검토하기
지난 몇 달 동안 많은 기술 공급업체들이 새로운 AI 및 LLM 기능을 자사 플랫폼에 내장했다. 이러한 기능이 생산성을 향상시키고, 정보에 대한 액세스를 단순화하거나, 기타 새로운 운영 이점을 제공하는 방법을 모색할 필요가 있다. 다음은 최근 발표된 사례의 일부다.
● 마이크로소프트 365 코파일럿이 워드, 엑셀, 파워포인트, 아웃룩, 팀즈에 탑재되다.
● 어도비 파이어플라이는 포토샵, 일러스트레이터, 어도비 익스프레스에 플러그인 되는 생성형 AI이다.
● 세일즈포스는 AI 클라우드를 핵심 CRM 제품, 슬랙, 태블로에 통합한다고 발표했다.
● 깃허브 코파일럿는 IDE와 통합되어 코드를 제안한다.
● 구글 클라우드용 구글 듀엣 AI에는 코드 지원, 채팅 지원 및 앱시트 기능이 포함된다.
● 아틀라시안 인텔리전스는 지라 소프트웨어, 지라 서비스 매니지먼트 및 컨플루언스에서 정보를 요약하고 질문에 답한다.
● 서비스나우는 마이크로소프트 애저 오픈AI 서비스 및 오픈AI API LLM과의 통합과 AI 기반 검색 기능 향상을 발표했다.
● 크라우드스트라이크는 보안 운영의 복잡성을 줄이면서 침해를 방지하는 데 도움이 되는 샬롯 AI를 소개했다.
● 코비오 관련성 생성 응답은 지능형 검색 플랫폼에 LLM 기능을 추가한 것이다.
3. LLM의 한계 인식
챗GPT 및 LLM의 주요 활용처는 번거로운 기본 조사나 학습 과정 없이 답변을 신속하게 얻는 것이다. 예를 들어, 마케팅 담당자는 고객 이메일 문구에 도움을 구할 수 있고, 기술자는 기술 용어의 정의를 확인할 수 있으며, 인사담당자는 내부 정책 안내문을 쉽게 작성할 수 있다.
또한 엔터프라이즈 콘텐츠를 기반으로 개발된 LLM은 많은 이점을 제공할 수 있다. 직원의 온보딩을 돕고, 제품 정보를 쉽게 찾게 해준다.
달리 말해, 챗GPT와 여타 LLM은 여러 업무의 생산성을 높이고, 인간의 역량을 향상시키고, 콘텐츠를 만드는 데 도움을 줄 수 있다.
데이터뱅크의 라울 마티넥 CEO는 “생성형 AI는 정부, 경제 및 금융 데이터 등을 검색하여 기업이 신속한 분석 및 보고서를 생성하는 데 매우 유용하다. AI는 이미 정보에 입각한 의사 결정을 신속하게 내릴 수 있도록 돕고 있다. 가령 데이터센터의 환경이나 고객의 의도, 직원의 감정 등을 신속하게 이해하게 해준다”라고 말했다.
하지만 챗GPT과 다른 LLM의 한계를 꼭 이해해야 한다. 페르사도의 CEO인 알렉스 브랏스키데스는 오픈AI의 CEO인 샘 알트만의 발언을 언급했다. “알트만은 챗GPT에 대해 ‘위대한 무엇이라는 오해의 소지를 준다’라고 말했다”라며 그는, “만약 생산성의 비약적인 개선을 찾고 있다면, 챗GPT은 인상적인 툴이다. 그러나 챗GPT 자체는 여전히 불충분하며, 오해의 소지가 있다”라고 말한다.
브랏스키데스는 사람들의 의사 결정을 향상시킬 수 있게 해야 AI가 위대해진다고 표현했다. 그는 “모델이 기업 데이터에 대해 훈련될 때, 언어는 사람들이 참여하고 행동하도록 동기를 부여하기 위해 개인화될 수 있고, 따라서 비즈니스 영향을 미친다”라고 말했다.
모델들이 또 상충하는 정보, 거짓, 그리고 편견 있는 의견을 포함하는 출처에 대해 훈련을 받기 때문에 AI 편견을 예상해야 한다. 세마포어 CI/CD의 공동 설립자인 마르코 아나스타소프는 “비록 강력하기는 하지만, 언어 모델들은 궁극적으로 그들의 훈련 데이터에 뿌리 박힌 편견과 인간 의사소통의 복잡성에 의해 구속된다”라고 말했다.
마지막으로, 챗GPT는 훌륭한 연구 툴이지만, 그것이 어떤 데이터에 대해 훈련을 받았는지 검토해야 한다. 프리사이슬리의 최고 제품 책임자인 안잔 쿤다바람은 “챗GPT는 최신 사건이나 뉴스를 알지 못한다. 그것은 또한 텍스트에 기반하여 인간의 대화에 대해 훈련을 받았는데, 잠재적으로 부정확하거나, 진실하지 않거나, 오해를 불러일으키는 데이터를 사용한다. AI 모델을 구동하는 데이터의 무결성은 그것의 성능과 신뢰성에 직접적으로 영향을 미친다”라고 말했다.
쿤다바람은 비즈니스 효율성을 감안하라고 조언했다 “고객을 응대하는 부서에 매우 적합하며, 직원들이 가치를 추가하는 데 집중할 수 있도록 간단한 대화 작업을 자동화하는 데 도움이 된다”라고 그는 전했다.
4. 복잡한 정보에 대한 이해 단순화
기업의 기술 및 정보 스택에 있는 콘텐츠는 복잡하기 십상이다. 또 데이터 소스 내에서 중요한 정보를 식별하기 어려운 경우가 태반이다. 키워드 검색 상자는 자연어 쿼리 및 프롬프트에 뒤쳐진 세대의 기술이기 때문에 많은 기업이 고객 및 직원 경험을 개선하기 위해 AI 검색을 사용하는 방안을 모색할 가능성이 높다.
정보 탐색과 더불어 운영 문제를 빠르게 해결하는 것도 중요하다. 예를 들어, 다목적 데이터베이스의 성능 문제로 인해 사이트 신뢰성 엔지니어, 데이터베이스 관리자 및 개발 엔지니어로 구성된 팀이 근본 원인을 찾는 데 상당한 시간이 걸릴 수 있다.
EDB의 데이터베이스 인프라 담당 부사장이자 수석 설계자인 데이브 페이지는 “생성형 AI는 데이터베이스 성능을 관리하고 최적화하는 것을 더 쉽게 만들 것이다. AI 기반 툴은 자동으로 데이터베이스를 모니터링하고 문제를 감지하고 최적화를 제안할 수 있으므로 데이터베이스 관리자는 더 복잡한 작업에 집중할 수 있는 귀중한 시간을 확보할 수 있다”라고 말했다.
페이지는 “그러나 데이터베이스 문제는 복잡할 수 있으며 AI가 고려하지 못하는 요인이 있을 수 있다”라고 지적했다.
또 다른 사용 사례는 제품 설명서 및 운영 교육 가이드와 같은 크고 복잡한 비정형 정보 소스에 대한 접근을 간소화하는 것이다. 북미 IFS의 CTO인 케빈 밀러는 “우리의 고객은 검색하기 어렵거나, 평균적인 사용자의 범위를 넘어설 수 있는 수많은 문서를 생성한다. 우리는 LLM을 서비스 설명서의 기능을 공개하고 다른 사용자가 유사한 문제를 어떻게 해결했는지 보여주는 것을 비롯하여 새로운 방식으로 사용자에게 컨텍스트를 제공하는 데 도움을 줄 수 있는 훌륭한 방법이라고 생각한다”라고 말했다.
그러나 무그소프트의 CEO이자 공동 설립자인 필 티는 지식과 이해 사이의 구분이 필요하다고 지적했다. 그는 “챗GPT와 다른 LLM은 기술적 팁을 제공하고 복잡한 프로세스를 이해하기 쉽게 설명할 수 있다. 이는 매우 가치가 있다. 전문용어는 없고 정보만 있다. 하지만 일련의 단계가 문제를 해결한다는 점과 이러한 단계를 지금 적용하는 것이 바람직한 지는 동일하지 않다. 산출물에 의문을 제기하지 않고 LLM에 너무 많이 의존하면 해가 된다”라고 말했다.
애플리케이션 중 하나에 LLM 기능을 통합하려 한다면 허니콤의 수석 제품 관리자인 필립 카터의 권고가 유용하다. 그는 “오늘날 제품에서 사람들이 가장 힘들어하는 부분에 대해 생각해보고, AI 없이도 무엇이 해결될 수 있는지 먼저 묻고, 수고를 줄이거나 새로운 사용자를 가르칠 때에만 LLM를 찾는 것이 그러한 문제를 해결하는 데 도움이 된다”라고 말했다.
그는 이어 “제품 UI의 일부 사이드바에 채팅 UI를 붙일 수 있으며 사람들이 흥분하기를 기대하는 잘못을 범해서는 안 된다”라고 덧붙였다.
5. 자체 데이터 제품을 기반으로 LLM 구축 준비
기업은 이제 챗GPT와 같은 개방형 LLM을 사용하거나, 소프트웨어 플랫폼에 내장된 LLM 기능을 활용하거나, 스타트업의 생성형 AI 툴을 실험할 수 있다. 독점적인 LLM을 개발하는 것은 현재 비용이 많이 들기 때문에 대부분의 비즈니스에서 선택 사항이 아니다. 그러나 기존 LLM을 사용하여 독점적인 기능을 만드는 것은 일부 기업이 모색하기 시작하는 선택지다.
올슨의 CEO인 존 어하드는 “LLM 위에 컨텍스트와 지식 계층을 구축하고 이를 기반으로 개인화된 상호 작용을 제공한다면 큰 기회가 있다. 특정 도메인 전문 지식을 갖춘 기업에게 유의미하다”라고 말했다.
도메인별 LLM 중 하나로는 금융 과제 해결을 전문으로 하는 맞춤형 금융 LLM을 갖춘 운영 체제인 인튜이트 젠OS가 있다. 또 다른 예로는 영어 재무 문서 및 공개 데이터 세트의 7,000억 토큰에 대해 훈련된 500억 매개 변수 LLM인 블룸버그GPT가 있다.
도미노의 데이터 과학 전략 및 에반젤리즘 책임자인 크젤 칼슨은 “LLM이 이미 배포되어 오늘날 비즈니스 가치를 높이고 있다. 바이오테크 기업은 새로운 치료법을 위한 단백질 개발을 가속화하고 있고, 산업 전반의 조직은 LLM을 사용하여 고객과의 대화를 이해하고 고객 서비스 운영을 최적화하고 있다”라고 말했다.
물론 LLM 기능을 기존 비즈니스 모델에 통합하는 것은 사소한 작업이 아니다. 칼슨은 “비즈니스 사용 사례가 드물다. 비용, 개인 정보 보호, AI 활용에 대한 제한이 있다”라고 말했다.
그럼에도 불구하고 대규모, 독점 및 비정형 데이터 세트에서 수익을 창출하는 비즈니스 모델을 보유한 기업은 자신들의 데이터를 LLM에 통합할 수 있는 기회를 고려해야 한다. 탭나인의 공동 설립자이자 CEO인 드로 위스는 “기업은 자체 보안 경계 내에서 전문 모델을 실행 및 관리하여 데이터 액세스와 사용을 제어할 수 있다. 중요한 것은 기업이 자체 데이터를 사용하여 전문 모델을 맞춤화 할 수 있다는 것이며, 이는 머신러닝 모델이 정확한 결과를 도출하는 데 필수적이다”라고 말했다.
금융 서비스, 의료, 교육 및 정부와 같은 풍부한 데이터 소스를 가진 산업에서 LLM을 구축할 수 있는 기회는 중요하다. 중단 가능성도 마찬가지로 검토해야 한다. 비즈니스 리더가 제품 및 운영에 LLM을 적용하는데 있어서 기회와 위험을 모두 탐색해야만 하는 이유 중 하나다.
* Isaac Sacolick는 애자일, 데브옵스, 데이터 과학을 다룬 ‘Driving Digital: The Leader’s Guide to Business Transformation through Technology’의 저자다.dl-ciokorea@foundryco.com
