AI 에이전트는 데이터 주권, 맞춤형 구성, 온프레미스 서버의 저렴한 비용이라는 이점을 누릴 수 있다. 모두 퍼블릭 클라우드 밖의 선택지다.
AI 에이전트가 새로운 것은 아니다. 하지만 오래된 AI가 다시 새로운 것이 된 것처럼, AI 에이전트와 에이전틱 AI는 다르다. 자율적인 의사결정과 복잡한 목표 관리로 잘 알려진 에이전틱 AI는 기업 운영을 근본적으로 변화시킨다. 중요한 변화는 퍼블릭 클라우드 서비스 업체가 원하는 플랫폼이 아닌 경우가 많다는 것이다. 크고 작은 기업이 온프레미스 하드웨어 서버와 소형 디바이스 등 더 작고 분산된 플랫폼을 찾고 있다. 이런 변화의 원동력과 향후 엔터프라이즈 AI에 미칠 영향에 대해 살펴보자.
에이전트의 부상
에이전틱 AI는 자율적인 의사결정 기능을 갖추고 특정 목표를 달성하기 위해 독립적으로 행동할 수 있는 인공지능 시스템을 말한다. 우리는 지난 몇 년 동안 이 아이디어의 많은 사례를 봤으며, 최근에는 스마트폰과 디바이스에 개인 디지털 비서를 탑재하고 가정용 HVAC 시스템에서 자동차에 이르기까지 모든 것을 자동화하고 있다.
이런 시스템은 고급 추론, 학습 및 적응 기능을 갖추고 있어 사람의 지속적인 감독 없이도 복잡한 정보를 처리하고, 정보에 입각한 선택을 하며, 작업을 실행할 수 있다. 에이전틱 AI는 정교한 알고리즘과 방대한 데이터 세트를 사용해 환경을 분석하고, 결과를 예측하고, 실시간 작업을 시작할 수 있다. 이런 형태의 AI는 의료, 금융, 교통 등 다양한 영역에서 지능적이고 목표 지향적인 솔루션을 제공함으로써 효율성과 효과를 향상시키는 것을 목표로 한다.
지금까지는 AWS, 마이크로소프트 애저, 구글 클라우드 등의 퍼블릭 클라우드 서비스가 클라우드 환경을 지배해 왔다. 하지만 에이전트 AI의 고유한 요구 사항으로 인해 이제 기업은 여러 가지 이유로 퍼블릭 클라우드 솔루션을 다시 생각하고 있으며, 궁극적으로 탈피하고 있다.
데이터 주권과 보안이 중요하기 때문이다. 특히 금융, 의료, 정부 등 규제가 엄격한 산업에서는 프라이빗 클라우드나 온프레미스 서버가 데이터 처리 및 저장에 대한 제어를 강화해 규정 준수를 보장하고 데이터 유출과 관련된 위험을 완화할 수 있다.
에이전틱 AI 애플리케이션은 높은 수준의 사용자 지정과 최적화가 필요한 경우가 많다. 프라이빗 클라우드 환경에서는 특정 요구 사항을 충족하고 보다 효율적으로 운영하기 위해 인프라를 미세 조정할 수 있다. 기업은 표준화된 퍼블릭 클라우드에 비해 향상된 성능과 자원 관리를 얻을 수 있다.
퍼블릭 클라우드 서비스의 비용 구조는 예측하기 어렵고 부담스러울 수 있다. 많은 기업이 팬데믹 이후 예상보다 두 배 또는 세 배나 많은 클라우드 요금으로 인해 여전히 어려움을 겪고 있다. 상황이 너무 나빠서 해결책으로 핀옵스가 등장했다. 자체 하드웨어 서버와 더 작은 전용 디바이스로 전환하면 퍼블릭 클라우드에 따르는 지속적인 구독료와 변동 비용을 피하고 비용 예측성과 통제력을 높일 수 있다.
더 작은 규모의 비클라우드 시스템
이런 변화의 일환으로 네트워크 엣지에서 더 작은 디바이스로 AI를 실행하는 엣지 컴퓨팅이 주목받고 있다. 엣지 컴퓨팅은 데이터를 로컬에서 처리함으로써 지연 시간을 줄이고 보안을 강화한다. 민감한 데이터는 소스와 가까운 곳에 유지한다. 예를 들어, 자동차 제조업체는 엣지 AI를 배포해 실시간 차량 데이터를 처리함으로써 클라우드 연결에만 의존하지 않고도 성능과 안전성을 개선한다.
AI 에이전트를 실행하는 분리형 분산 시스템에는 독립적으로 실행해야 하는 수백 개의 저전력 프로세서가 필요하다. 클라우드 컴퓨팅은 일반적으로 이에 적합하지 않다. 하지만 퍼블릭 클라우드 솔루션 외의 이질적이고 복잡한 배치 환경에서 실행되는 노드가 될 수 있다.
에이전틱 AI가 성숙하면 퍼블릭 클라우드에서 벗어나려는 움직임은 더욱 탄력을 받을 것이다. 기업은 지능형 IoT 디바이스에서 정교한 온프레미스 서버에 이르기까지 특정 AI 작업에 맞춘 전용 하드웨어에 점점 더 많이 투자할 것이다. 이런 전환에는 다양한 시스템 간의 원활한 상호 작용을 보장하고 전반적으로 AI 운영을 최적화하기 위한 강력한 통합 프레임워크가 필요하다.
이로 인해 복잡성, 이질성, 운영 비용이 증가하는 것은 사실이지만, 비즈니스의 요구에 맞춘 보다 실용적인 AI 배포로 이어질 것이다. 현실을 직시하자. 기업이 자체적으로 사용하기 위해 LLM을 구축하는 것은 퍼블릭 클라우드 서비스 업체를 이용하더라도 비용이 너무 많이 든다. 에이전트와 소규모 언어 모델이 AI를 위한 아키텍처 선택지가 될 가능성이 더 크다.
이 경우 기업에 가장 좋은 것이 퍼블릭 클라우드 서비스 업체에는 좋지 않다. 하지만 퍼블릭 클라우드를 걱정할 필요는 없다. 클라우드는 가장 최적화되거나 비용 효율적인 옵션은 아니지만 여전히 AI의 ‘쉬운 버튼’이다. 여전히 많은 AI 구축 및 배포에 매력적인 선택지이며, 실제로 많은 기업이 퍼블릭 클라우드를 선택할 것이다.
에이전틱 AI를 통합하는 것은 중요한 전환점이 되어 기업이 퍼블릭 클라우드 솔루션에서 벗어나도록 유도한다. 기업은 비퍼블릭 클라우드 기술을 채택하고 적응력이 뛰어나고 안전하며 비용 효율적인 인프라에 투자함으로써 에이전틱 AI의 잠재력을 충분히 활용할 수 있다. 이런 전략적 전환은 운영 효율성을 향상시키고 AI 배포를 비즈니스별 요구사항과 목표에 더욱 밀접하게 연계할 것이다. dl-ciokorea@foundryco.com
