생성형 AI의 기회와 위험을 대하는 CTO의 자세

보고서는 단기적으로는 학습 인프라가 시장 성장을 주도하고, 장기적으로는 대규모 언어 모델(LLM), 디지털 광고, 전문 소프트웨어 및 서비스를 위한 추론 장비로 점차 전환될 것으로 분석했다. KPMG가 미국의 기업 임원 200명을 대상으로 실시한 설문조사에서도 75%의 응답자가 향후 12~18개월 동안 생성형 AI가 떠오르는 3대 기술 중 하나가 될 것이라고 답했다.

생성형 AI는 챗봇과 가상 비서, 콘텐츠 개발, 데이터 분석, 디자인 및 개발, 예측 유지보수 등 다양한 용도로 활용할 수 있다. 기업이 이 기술을 어떻게 활용하고 있는지, 그리고 앞으로 무엇을 기대하는지 3명의 CTO에게 물었다.

혁신과 효율성을 위한 코파일럿

마이크로소프트와 액센츄어가 2000년에 공동 설립한 전문 서비스 업체 애버나드(Avenade)의 CTO 플로린 로타르는 마이크로소프트가 2021년 초 오픈AI와 함께 일련의 GPT 서비스를 프리뷰로 출시한 이래, 생성형 AI와 관련해 협업을 해 왔다고 밝혔다.

애버나드는 마이크로소프트가 마이크로소프트 그래프와 마이크로소프트 365에 도입한 코파일럿 기술을 활용해 LLM을 자체 데이터와 통합해 생산성을 높였다. 또한 영업 프로세스를 간소화하는 데 사용하는 마이크로소프트 비바 세일즈(Viva Sales)의 초기 고객 중 하나로, 생성형 AI가 포함된 비바 시리즈의 새 릴리즈도 자사 환경에 탑재했다.

로타르는 “더 큰 그림으로 보면, 생성형 AI는 AI가 대중화되는 변곡점이 되어 혁신과 효율성의 이점을 실현할 수 있는 새로운 기회를 제공할 것”이라고 강조했다. 애버나드는 생성형 AI를 통해 생산성 향상 등의 이점을 누리고 있으며, 영업 및 마케팅 운영 전반에 걸쳐 생성형 AI를 사용해 인사이트를 발견하고 영업 계획을 개선하고 있다.

애버나드의 전 세계 고객 역시 생성형 AI를 통해 추가 혜택을 얻고 있다. 로타르에 따르면, 한 제조업체는 디자이너, 엔지니어, 마케팅팀을 이 신제품을 설계하고 생산하도록 자극하는 데 생성형 AI를 활용할 수 있다는 것을 확인했다. 한 비영리 단체는 보조금 보고서를 작성하고 관련 행정 업무에 소요되는 시간을 단축하는 데 생성형 AI를 활용하는 방안을 모색하고 있다.

신속한 시제품 개발 및 제품 공급

지적재산권(IP) 관리 소프트웨어 업체인 아나쿠어(Anaqua)는 생성형 AI를 사용해 개발 지원을 위한 내부 운영은 물론, 자사 제품에서도 지원 사용례를 늘리고 있다. 

아나쿠어는 오랫동안 AI와 머신러닝, 고급 검색 등의 기술을 사용해 왔는데, 아나쿠어 CTO 에릭 리브스는 “지금 새롭게 등장하는 일부 기능은 막대한 노력을 투자하지 않고도 확연히 다른 수준의 품질을 얻을 수 있다”며, “이런 새로운 서비스는 훨씬 더 짧은 기간에 신속한 시제품 개발 및 테스트, 시장 검증을 위한 매우 유용한 이점을 제공하며, 다양한 시도를 하고 프로젝트를 검증, 중단 또는 가속화할 수 있는 역량을 제공한다”고 설명했다.

동시에 고객의 실제 과제를 해결하기 위해서는 생성형 AI를 실용적이고 지능적으로 적용해야 한다는 점을 인식하고 있다. 리브스는 “초기 이니셔티브 중 일부는 매우 단순하지만, 그럼에도 불구하고 효과가 있다 “라고 강조했다. 예를 들어, 수작업이나 중복 작업을 줄이는 방법을 찾는 것 등이다. 또 “IP 관련 비즈니스 및 데이터 과제에 보다 정교하고 미묘한 방식으로 적용되는 고급 사용례를 추구하는 한편, 매우 유연하고 실용적인 접근 방식을 유지하고 있다”고 덧붙였다.

리브스는 생성형 AI를 “새로운 기술을 활용할 방법을 모색하는 형성 단계의 영역”이라고 평가하며, “특히 아나쿠어처럼 복잡한 영역에서 AI가 애플리케이션을 생성하도록 하는 것은 아직 멀었지만, 이미 개발의 일관성, 효율성 및 품질에 도움이 될 수 있는 간단한 작업에 AI를 활용하고 있다. 여기서 중요한 것은 기본적인 코딩 프랙티스, 보안 및 개발의 운영 메커니즘과 마찬가지로 학습 커뮤니티를 구축하고 이런 지식을 전파하는 것”이라고 말했다.

아나쿠어가 즉각적인 효과를 얻은 분야는 코드 검토, 코드 비교, 검증 또는 피드백을 위한 특정 질문과 같은 일반화하기 어려운 영역이다. 리브스는 “우리가 얻는 것이 항상 믿을 만한 것은 아니지만, 이미 놀라울 정도로 많은 가치를 얻고 있으며 앞으로도 더 좋아질 것이다”라고 강조했다.

코드 생성은 빙산의 일각

AI 뉴스 플랫폼인 마크테크포스트 미디어(Marktechpost Media)에 따르면, 생성형 AI 기술의 빠른 발전으로 코드 생성 툴에 대한 관심이 높아지고 있다. 이들 툴은 머신러닝 알고리즘과 자연어 처리(NLP)를 사용해 개발자가 코딩 작업의 일부를 자동화하는 데 도움을 준다.

애버나드의 로타르는 “AI가 생성하는 코드는 개발자가 더 창의적이고 성취감 있는 작업을 수행할 수 있도록 해준다”라며, “코딩의 일상적인 측면에 소요되는 시간과 노력을 줄임으로써 개발자는 혁신에 집중해 프로그램이나 앱, 코딩을 사용하는 새로운 방법을 고안할 수 있다. 또한 AI로 생성된 개념은 완전히 새로운 코드 솔루션이나 현재 존재하지 않는 코딩 언어에 대한 기회를 제공해 현재 또는 미래의 과제를 해결할 수도 있다”고 말했다.

SAS는 코파일럿 통합을 통해 코드 생성 역량을 높일 방법을 찾고 있으며, 이미 챗GPT를 마케팅 콘텐츠 제작에 적용했다. SAS 수석 부사장 겸 CTO인 브라이언 해리스는 “고객이 자연어를 사용해 툴 및 데이터와 상호작용할 수 있도록 AI 플랫폼에 챗봇을 통합하는 것을 테스트하고 있다”며, “SAS는 고객이 진정한 가치를 더 빨리 실현할 수 있도록 제품에 생성형 AI를 녹여넣고 있다”고 밝혔다.

예를 들어, 재무 설계사는 회사의 수익성을 높이고 유지하는 방안을 모색할 수 있다. 해리스는 “생성형 AI에 대한 SAS의 접근 방식은 데이터를 설명하고, 다른 AI 모델에서 감지한 이상 징후를 지적하고 정규화를 자동화하는 데 도움이 된다”고 설명했다. 또 “마찬가지로 물류 기획자가 대행업체에 공급업체 입찰가를 수익 목표와 비교해 공급망 비용을 최적화하는 옵션을 검토하도록 요청할 수도 있다. 이는 아직 공개 도메인에서는 볼 수 없는 정밀한 상호 작용이다”라고 덧붙였다.

생성형 AI의 향후 과제

어떤 기술이 생성형 AI에 속하는지에 대한 공식적이거나 널리 합의된 정의는 없지만, SAS는 디지털 트윈, 합성 데이터 생성, LLM을 모두 본질적으로 생성형 AI에 속하는 것으로 간주한다. 해리스는 “SAS의 소프트웨어는 이미 합성 데이터 생성을 위해 강화 학습과 같은 여러 가지 기본적인 AI 기능을 사용하고 있다. 이 시스템에는 기준 데이터 소스, 표 형식의 데이터를 무작위로 생성하는 모델, 그리고 판별자(discriminator)가 있다. 판별자는 생성된 데이터가 그럴듯한지 거짓인지 판단해 모델에 피드백을 준다”고 설명했다.

해리스는 이를 합성 디지털 트윈을 구축하기 위한 ‘번식지’라며, “예를 들어 차량 원격 측정 데이터와 유사한 여러 유형의 데이터를 생성한 다음 ‘가상’ 시나리오를 실행해 이 복잡한 시스템의 동작을 예측할 수 있다”라고 덧붙였다.

아나쿠어의 리브스는 “코드 생성뿐만 아니라 다른 영역에서도 개발자에게 ‘스마트 비서’를 제공하는 기능, 즉 실시간으로 품질 관리 기능을 제공하고 아이디어를 제시하고 일관성을 지키는 데 도움이 된다는 점이 가장 흥미롭다”라며, “일부 일상적인 작업을 자동화나 단순 검토로 대체하면서 고차원적인 디자인 씽킹과 사용자 경험이 창의적인 작업의 중심이 될 수 있다”고 강조했다.

생성형 AI 도입에서 CTO의 역할

시장의 과대광고를 고려할 때, CTO는 최고 경영진과 그 밑에서 일하는 관리자 및 팀과 함께 생성형 AI에 대한 기대치를 신중하게 설정해야 한다. 특히 생성형 AI가 비즈니스 사용례 측면에서 아직 새로운 기술이기 때문에 주의를 기울여 배치해야 한다는 점을 분명히 해야 한다.

로타르는 “시장의 속도를 따라잡기는 어렵다. 1년 후에는 상황이 완전히 달라질 것이다. 과대광고를 관리하고 이런 변화에 보조를 맞추는 것은 어려운 일이다. 핵심은 IT 책임자가 실험하고 학습하며 AI 전략이 무엇인지에 대해 고민하는 것이다”라고 말했다.

생성형 AI를 활용할 아이디어는 많지만, 위험 관리, 컴플라이언스, 규제, 보안, 기업 윤리 등을 고려해야 한다. 로타르는 “IT 책임자는 AI의 기술적 의미 이상을 고려해야 한다. AI의 이점을 활용하려면 여러 비즈니스 및 IT 영역을 평가하고 모니터링해 조직과 인력의 AI 준비 상태를 유지해야 한다”라고 강조했다.

해리스는 기업이 생성형 AI 툴을 실험해보고 싶어 하지만 “현재의 애플리케이션은 기껏해야 실험 단계에 불과하다는 점을 염두에 둬야 한다”며, “생성형 AI 기반 솔루션이 생성하는 콘텐츠는 인간이 만든 데이터를 소싱한 결과물이며, 인간은 편견을 삽입하고 실수를 저지르며 스스로 모순을 일으키기 쉽다”고 지적했다.

SAS의 경우, 고객이 민감한 데이터를 다루는 경우가 많다는 점이 생성형 AI에 신중하게 접근하는 주된 이유이다. 챗GPT를 통해 단순히 질문하는 것만으로도 고객이 의도하지 않은 방식으로 기본 모델을 재학습하는 데 사용될 수 있는 기밀 정보가 공개될 수 있기 때문이다.

생성형 AI의 참신함이 잠재적인 위험을 가리고 부수적인 피해를 초래할 수 있다. 해리스는 “사용자는 자동화된 프로그램을 지나치게 신뢰하는 경향이 있으며, 생성 결과물에 의문을 제기하지 않고 잘못된 정보, 가짜 콘텐츠 또는 알고리즘이 홍보하는 모호한 문구에 근거하여 잘못된 결정을 내릴 수 있다”라며, “이렇게 간과한 문제가 실제 프로덕션 환경으로 확산되어 그 결과가 현실 세계에 영향을 미칠 수 있다면 심각한 결과를 초래할 수 있다”고 지적했다. 

또 생성형 AI가 엄청난 가능성을 보여주지만 “견제와 균형이 제대로 갖춰져 있지 않으면 오용될 가능성도 크다. 이런 결함으로 인해 유해한 딥페이크, 저작권 침해, 지적 재산의 오용 및 기타 부적절한 결과가 발생할 수 있다”고 덧붙였다.

지금 필요한 질문

생성형 AI의 발전은 정부 기관이나 사회 일반이 합리적으로 해결할 수 있는 것보다 더 빠르게 가속화되고 있으며, 비즈니스 가치, 위험, 윤리 문제는 아직 조정되지 않은 상태이다. 

해리스는 “SAS의 비즈니스 모델은 최신 기술을 단지 참신함만을 위해 추진하는 것을 권장하지 않는다”라며, “다년간의 경험을 통해 새로운 방법론의 강점과 약점을 모두 검토해 언제, 어디에, 어떻게 적용하는 것이 가장 좋은지 면밀히 검토하는 것이 중요하다. SAS는 데이터 윤리를 지키고자 하며, 이 때문에 ‘할 수 있다면 해야만 하는가?’라는 질문에 답해야 한다. 만약 한다면, 어느 정도까지 해야 할 것인가?”라고 반문했다.
editor@itworld.co.kr