AI는 데이터 현대화 및 준비 작업을 철저히 수행한 이들에게만 높은 가치를 줄 가능성이 높다. 원문보기:
현재 생성형 AI의 모습은 마치 관광용 티셔츠 같아 보인다. “AI 인프라에 1조 달러를 썼는데 얻는 것은 보잘것없는 학교 과제뿐”이라고 적힌 티셔츠 말이다. 데이터센터와 관련 인프라에 엄청난 금액이 투입되고 있지만, 기업이나 소비자가 비용을 지불하고 사용하는 애플리케이션 측면에서 돌아오는 수익은 상대적으로 적다. 이는 부분적으로 우리가 AI 과대 광고 사이클의 어느 지점에 있느냐의 문제다. 많은 이들의 그저 머뭇거리기만 하다가 ‘환멸의 골짜기’ 단계에 접어들 수도 있는 것이다.
그러나 이는 AI와 그 활용 방안에 대해 너무 협소하게 생각하고 있거나, AI가 비용을 감당할 만한 복잡한 문제를 해결하기에 적합하지 않다고 생각하는 것일 수도 있다.
“부피가 크지 않다”
이는 골드만삭스의 글로벌 주식 리서치 책임자인 짐 코벨로의 의견이다. 인터뷰에서 그는 “AI 기술을 개발하고 운영하는 데 드는 상당한 비용”을 정당화하려면, 애플리케이션은 “기업이 적절한 투자 수익을 얻도록 하기 위해 매우 복잡하고 중요한 문제를 해결해야 한다”라고 말했다. 지금까지는 그렇지 않았다. X(트위터)에서 빠르게 스크롤하면 데모웨어(LLM 등으로 만든 동영상이나 익살스러운 곡)가 표시되는데, 이는 멋지지만 안타깝게도 일반적인 기업 사용 사례가 될 수 없다. 또한 아무리 많은 AI 생성 스톡 사진을 사용한다고 해서 달라지지는 않을 터다.
현재까지 AI가 가장 유망한 분야는 소프트웨어 개발 분야로, 지속적인 영향을 미치고 있다. 하지만 이 분야에서도 일부 숙련된 개발자만이 생산성을 크게 향상하고 있으며, 그 영향력은 골드만삭스가 향후 몇 년 동안 AI에 투자될 것이라고 예상한 1조 달러 수준에 미치지 못하고 있다. 코벨로는 “콘텐츠 마케팅 자산 제작과 같은 저임금 일자리를 엄청난 비용이 드는 기술로 대체하는 것은 기본적으로 인터넷의 출현을 포함해 지난 수십 년 동안 지켜봐 온 기술 전환과는 정반대 방향”이라고 말했다.
그는 AI 인프라 비용이 오늘날 많은 업무를 대체할 만큼 충분히 빠르게 낮아질 것이라는 가정이 너무 안일한 생각이라고 지적했다. 코벨로는 닷컴 붐을 일으킨 서버 비용 하락에 대해 “사람들은 1990년대 후반 서버가 출시된 지 몇 년 만에 비용이 엄청나게 하락했다는 점을 언급하지만, 당시 인터넷 기술 전환에 필요한 6만 4,000달러의 선 마이크로시스템즈 서버 수는 오늘날 AI 전환에 필요한 값비싼 칩 수에 비하면 아무것도 아니다”라고 주장했다. 또한 여기에는 AI를 특히 비싸게 만드는 관련 에너지 및 기타 비용도 고려되지 않았다.
이를 고려할 때 코벨로는 “생성형 AI가 세상에 소개된 지 18개월이 지났지만 비용 효율성은 물론이고 진정으로 혁신적인 애플리케이션은 하나도 발견되지 않았다”라고 결론을 내렸다. 저주에 가깝게 들릴 수 있지만, MIT의 대런 아세모글루 교수는 향후 10년간 AI가 합리적으로 복제할 수 있는 작업 중 23%만이 비용 효율적으로 자동화될 수 있기 때문에 이런 현상이 당분간 지속될 것이라고 말했다.
그들이 옳을까? 어쩌면 그럴 수도 있다.
반만 채워진 AI의 유리잔
물론 비용이 급격히 낮아지고 AI가 비관론자의 상상보다 훨씬 더 많은 일을 할 것이라고 주장하는 AI 지지자들도 적지 않다. 그중 골드만삭스의 수석 글로벌 경제학자인 조셉 브릭스는 “자동화, 비용 절감, 효율성 향상을 주도할 수 있는 생성형 AI의 잠재력이 크므로 결국 생산성을 크게 향상시킬 수 있을 것”이라고 말했다.
또 다른 지지자로는 170억 달러의 IT 예산을 관리하며 AI에 올인하고 있는 JP모건체이스의 글로벌 CIO인 로리 비어가 있다. 비어는 많은 기업이 생성형 AI든 다른 방식이든 AI로부터 가치를 얻는 데 어려움을 겪는 가장 큰 이유가 데이터에 적절히 투자하지 않았기 때문이라고 말했다. 그는 “클라우드에 있지 않고, 데이터를 현대화하지 않고, 모든 기초적인 작업을 하지 않는다면 AI에 대해 이야기할 수 없다”라고 주장했다. 다시 말해, AI는 트위터에서 공학적 논의를 하는 이들이 흔히 생각하는 것처럼 갑자기 생겨나는 마술이 아니라는 의미다. 생성형 AI, 머신러닝 등이 성과를 내기 위해서는 먼저 데이터 준비라는 지루한 작업을 해야 한다.
우리는 아직 AI의 초기 단계에 있다. 구글 엔지니어인 자나 도건이 “각 기업은 AI의 기본을 파악하는 데 엄청난 시간을 투자해야 한다”라고 지적했듯 아직 너무 어려운 분야다. 기업들이 검색 증강 생성(RAG)을 본격적으로 사용하기 시작하고 에이전트 시스템에 손을 대는 것을 목격하고 있다. 하지만 아직은 불확실한 결과와 수많은 인력 문제가 걸림돌이 되고 있는 고난의 과정이다. 실제로 사람들은 기계처럼 취급받기를 싫어하며, 기계를 신뢰하기 전에 기계가 어떻게 작동하는지 알고 싶어한다.
기업에서 일하면서 다른 사람이 AI에 대한 결정을 내리기를 기다리고 있다면, 태도를 바꿔야 한다. 지금이야말로 AI를 비용 효율적으로 활용할 방법을 직접 실험하고 찾아볼 때다. 물론 실패할 수도 있지만, 그 실패는 골드만삭스 인터뷰 시리즈를 읽거나(물론 통찰력 있는 내용이지만) 트위터 데모를 보는 것보다 훨씬 더 많은 교훈을 줄 수 있다.
* Matt Asay는 몽고DB의 개발자 관계 업무를 담당하고 있다. 그러나 본 글은 몽고DB의 입장이 아니다. ciokr@idg.co.kr
