기업은 여전히 인공지능의 혼란과 추측에서 벗어날 수 있도록 도와줄 믿을 수 있는 솔루션 업체를 기다리고 있다.
모두가 AI를 하고 있지만 그 이유를 아는 사람은 아무도 없다. 물론 과장된 표현이긴 하지만, 생산성은 제대로 끌어올리지도 못하면서 시장만 잔뜩 부풀어 오른 것 같은 느낌이다. 데이터 솔루션 업체 몬테카를로의 CEO 바 모세는 최근 한 설문조사의 결과를 지적했다. 데이터 책임자의 91%가 AI 애플리케이션을 구축하고 있지만, 이 중 2/3은 LLM에 적용하는 자사의 데이터를 신뢰하지 않는다는 것이다. 다시 말해, 모래 위에 AI를 구축하고 있다는 뜻이다.
성공적인 AI 구현을 위해서는 혼란스러운 과대광고에서 벗어나 기업이 AI를 이해할 수 있도록 도와야 한다. 즉, 더 많은 신뢰(개방형 모델)가 필요하고, 움직이는 부품(모델을 선택하고 적용하는 데 추측이 필요한 독단적인 플랫폼)은 줄여야 한다.
AI를 위한 레드햇이 필요할지도 모른다. 또한, 왜 레드햇은 AI의 레드햇이 되기 위해 나서지 않느냐라는 질문도 제기할 수 있다.
복잡성이 필요한 모델
2006년 당시 레드햇의 CTO였던 브라이언 스티븐스는 레드햇의 비즈니스 모델에 대한 핵심적인 의존성을 이해하는 데 도움을 주었다. 당시 스티븐스는 “레드햇의 모델은 우리가 사용하는 기술의 복잡성 때문에 작동한다. 운영 플랫폼에는 움직이는 부품이 많고, 고객은 이런 복잡성에서 벗어나기 위해 기꺼이 비용을 지불한다”고 설명했다. 레드햇은 특정 패키지(네트워킹 스택, 인쇄 드라이버 등)를 선택해 리눅스 배포판을 만든 다음 고객을 위해 해당 배포판을 테스트하고 기능을 강화한다.
누구나 원시 리눅스 코드를 다운로드해 자신만의 배포판을 만들 수 있고, 실제로 많은 사람이 그렇게 하고 있다. 하지만 대기업은 그렇지 않으며, 소규모 기업도 마찬가지다. 이들은 구성 요소를 컴파일하고 모든 것이 원활하게 작동하도록 하는 복잡한 작업을 건너뛰기 위해 레드햇 같은 솔루션 업체에 기꺼이 비용을 지불한다. 중요한 것은 레드햇이 리눅스 배포판을 구성하는 다양한 오픈소스 패키지에 기여한다는 점이다. 이를 통해 대기업은 선택만 한다면(대부분은 선택하지 않지만) 레드햇 엔터프라이즈 리눅스에서 벗어날 수 있다는 확신을 가질 수 있다. 독점 솔루션인 유닉스에서는 결코 벗어날 수 없었던 방식이다.
코드에 대한 신뢰를 쌓은 오픈소스와 결합된 이런 리눅스의 신비화 과정은 레드햇을 수십억 달러 규모의 기업으로 성장시켰다. 현재의 AI 시장에도 이와 유사한 것이 필요하다.
복잡성을 키우는 모델
오픈AI는 현재 가장 인기가 많은 기업일지는 몰라도 해결책이 아니다. 모델 확산으로 문제를 계속 악화시킬 뿐이다. 오픈AI는 점점 더 많은 데이터를 LLM에 집어넣어 더 나은 모델을 만들지만, 기업이 프로덕션에 사용하기는 쉽지 않다. 오픈AI만이 아니다. 구글, 앤트로픽, 미스트랄 등도 모두 사용자가 사용하길 바라는 LLM을 가지고 있으며, 각각은 이전보다 더 크고 더 좋고 더 빠른 것처럼 보이지만 일반 기업에는 명확하지 않다.
이제 기업은 과대광고에서 벗어나 검색 증강 생성(RAG)을 통해 보다 신중하고 유용한 작업을 수행하기 시작했다. 이것이 바로 레드햇 스타일의 회사가 기업을 위해 해야 할 일이다. 필자가 놓친 것일 수도 있지만, 아직까지 기업이 AI를 더 쉽게 사용할 수 있도록 하기 위해 오픈소스의 레드햇처럼 나선 업체는 없다.
클라우드 서비스 업체가 이 역할을 수행할 것으로 예상할 수 있지만, 대부분은 기존 플레이북을 고수하고 있다. 예를 들어, AWS는 데이터베이스, 운영체제 등을 관리하는 ‘차별화되지 않은 과중한 작업’으로부터 고객을 보호함으로써 1,000억 달러 규모의 비즈니스를 구축했다. AWS의 생성형 AI 페이지로 이동하면 AI를 통해 고객에게 유사한 서비스를 제공하기 위해 준비된 것을 볼 수 있다. 하지만 LLM은 운영체제나 데이터베이스 또는 엔터프라이즈 컴퓨팅처럼 잘 알려진 영역이 아니다. 기업에는 여전히 요정이 뿌리는 마법 가루 같은 것이다.
‘차별화되지 않은 무거운 작업’은 클라우드 서비스로 관리하는 것의 일부분일 뿐이다. 더 시급한 문제는 이런 모든 AI 구성요소를 언제 어떻게 효과적으로 사용할지 이해하는 것이다. AWS는 아마존 베드락에서 “광범위한 모델 선택 및 생성형 AI 도구”를 제공함으로써 고객을 지원한다고 생각하지만, 오늘날 대부분 기업에는 “광범위한 선택”이 필요한 것이 아니라 지침을 통한 의미 있는 선택이 더 중요하다. 레드햇도 마찬가지다. 레드햇은 자사의 AI 접근방식이 제공하는 ‘다양한 선택’을 내세우지만, 기업이 이런 선택에 더 쉽게 접근할 수 있도록 하지는 않고 있다.
인프라 솔루션 업체가 자사의 DNA를 뛰어넘어 진정한 AI 솔루션을 제공할 것이라는 기대는 기우에 불과할 수도 있다. 그럴지도 모른다. 아마도 과거의 기술 발전 주기에서와 마찬가지로, 스택의 가장 낮은 수준에서 초기 승자(예를 들어, 엔비디아)가 나오고, 그 다음에는 한두 단계 높은 수준에서 승자가 나오며, 가장 큰 승자는 고객의 모든 복잡성을 제거하는 애플리케이션 업체가 될 것이다. 이것이 사실이라면 현재의 ‘폭넓은 선택 제공업체’가 AI를 기업에 의미있는 것으로 만들 수 있는 솔루션 업체에 자리를 내줄 때까지 몸을 웅크리고 기다려야 할 때인지도 모른다.
editor@itworld.co.kr
