생성형 AI가 모든 클라우드 마이그레이션 문제를 해결할 수 있다는 이야기를 들어본 적이 있을 것이다. 하지만 그렇게 간단하지 않다. 생성형 AI는 오히려 문제를 더 어렵고 비싸게 만들 수 있다.
주식회사 XYZ가 최첨단 생성형 AI 도구를 사용해 광범위한 레거시 시스템을 클라우드로 마이그레이션하는 여정을 시작했을 때 경영진은 낙관적이었다. 선도적인 AI 솔루션 업체와의 파트너십은 효율성과 비용 절감을 약속했다. 그러나 생성형 AI 도구는 XYZ 시스템의 복잡성과 특수성을 처리하는 데 또 다른 도움이 필요했고, 이로 인해 불가피한 수작업이 잦았다. 일정은 계속 수정됐고, 마이그레이션에 착수한 지 6개월이 지나자 프로젝트 비용은 예산을 초과했다. 간소화되어야 할 프로세스가 예상치 못한 비용과 지연으로 얽히고설킨 그물망으로 바뀌었다. 어쩌다 이렇게 된 것일까?
XYZ사의 경험은 “생성형 AI를 사용하면 클라우드 마이그레이션에 드는 노력을 30~50% 줄일 수 있다”는 맥킨지의 주장과는 상반된다. 필자의 받은편지함은 저렴한 비용으로 클라우드 마이그레이션을 수행하려는 기업이 이 과정을 단축할 수 있는 생성형 AI 기반 마이그레이션 도구에 대한 묻는 메일로 가득 차 있다.
물론 완전히 새로운 애플리케이션 개발이나 애플리케이션 리팩토링과 같은 마이그레이션 작업에 AI를 사용하면 상당한 이점이 있다. 하지만 전반적인 분위기는 생성형 AI가 인력 부족과 압축된 마이그레이션 일정에서 우리를 구해줄 것이라는 희망을 강조하는 경우가 많다.
결론을 미리 이야기하자면, 이는 희망사항일 뿐이다.
생성형 AI 도구의 장점과 위험
언뜻 보기에 클라우드 마이그레이션에 LLM을 사용하는 것은 ‘신의 은총’처럼 느껴진다. LLM은 이론적으로 시스템의 인프라를 이해하고 마이그레이션을 쉽게 만드는 스크립트를 생성할 수 있다. 그러나 생성형 AI가 다양하고 복잡한 엔터프라이즈 IT 환경을 균질화할 수 있다는 가정은 다시 생각해 볼 필요가 있다. 그 이유는 다음과 같다.
- 각 클라우드 마이그레이션 프로젝트는 고유하다. 그 복잡성 때문에 특정 문제 영역에 맞는 특정 도구와 프로세스가 필요하다. 생성형 AI는 이런 요구사항의 맞춤형 특성을 거의 고려하지 않기 때문에 수정하는 데 상당한 사람의 개입이 필요한 반쪽짜리 솔루션이 되고 만다.
- 많은 기업이 레거시 시스템으로 운영되고 있다. 워크플로우는 미묘한 차이가 있고 문서화되어 있지 않은 경우가 많다. LLM이 이런 복잡성을 정확하게 해석하려면 또 다른 도움이 필요하며, 이로 인해 마이그레이션 프로세스에 공백이 생길 수 있다. 비용이 많이 드는 코드 재작성과 강도 높은 디버깅 세션이 필요하다면, 애초에 AI를 사용하려는 목적이 무색해질 수 있다.
- 규제 산업의 기업은 엄격한 규정을 준수해야 한다. 생성형 AI는 잠재적인 규정 준수 문제를 식별하는 데 도움이 되지만, AI의 권장 사항이 규제 표준을 충족하는지 확인하기 위해 최종 검증에 사람의 감독이 필요한 경우가 많아 복잡성과 비용이 추가될 수 있다.
쉬운 해결책은 없다
생성형 AI의 매력은 자동화와 효율성이라는 약속에 있다. 클라우드 마이그레이션이 일률적인 시나리오라면 문제가 없을 것이다. 하지만 각 기업은 기술 스택, 비즈니스 요구 사항, 규제 환경에 따라 각자의 고유한 과제를 안고 있다. 생성형 AI 모델이 모든 마이그레이션 작업을 원활하게 처리할 것으로 기대하는 것은 비현실적이다.
필자는 마이그레이션을 지원하기 위해 AI 마이그레이션 툴체인을 설정할 때쯤이면 시간 지연과 툴체인 비용으로 인해 잠재적인 이점이 사라질 것이라고 생각한다. 잘 생각해보면, IT 업계에서 어떤 기술이 가치를 더하는 대신 가치를 떨어뜨린 사례들이 기억 날 것이다.
성공적인 클라우드 마이그레이션은 전문화된 도구와 사람의 전문 지식에 의존한다. 예를 들어, 맞춤형 도구는 마이그레이션 중에 발생하는 특정 문제를 해결한다. 실시간 합성 테스트와 코드형 인프라 프레임워크는 마이그레이션 작업의 세세한 부분을 처리하는 데 필수적이다.
또한 사람의 감독도 여전히 필요하다. 숙련된 전문가는 AI가 복제할 수 없는 중요한 인사이트를 제공한다. 이들의 전문성은 예상치 못한 문제를 해결하고 마이그레이션 프로세스의 무결성을 보장하는 데 필수적이다.
생성형 AI의 실제 비용
AI 도구에 대한 초기 투자 외에도 클라우드 마이그레이션을 위한 생성형 AI의 숨겨진 비용은 빠르게 증가한다. 예를 들어, 생성형 AI 모델을 실행하려면 상당한 컴퓨팅 자원이 필요한 경우가 많기 때문에 비용이 증가한다. 또한 생성 AI 모델을 업데이트하고 안전하게 유지하려면 강력한 API 관리 및 보안 조치가 필요하다. 마지막으로, AI 모델은 관련성을 유지하기 위해 지속적인 개선과 재교육이 필요하며, 이로 인해 지속적인 비용이 발생한다.
이런 이유로 XYZ사와 비슷한 상황이 종종 발생한다. 생성형 AI는 특정 측면에서는 유용하지만, 아직 클라우드 마이그레이션의 복잡성을 해결하는 만병통치약이 될 수는 없다.
이렇게 말하는 사람도 있을 것이다. “이 사람은 이번에도 생성형 AI 퍼레이드에 찬물을 끼얹고 클라우드 마이그레이션에 큰 도움이 될 AI에 대한 기대감을 죽이고 있다.” 하지만 성공적인 비즈니스 전략은 무엇이 잘 작동하고 무엇이 개선되어야 하는지에 관한 것이다. AI가 강력한 도구라는 것은 누구나 알고 있고 수십 년 동안 그래왔지만, 해결하고자 하는 구체적인 문제를 파악한 후에는 신중하게 고려해야 한다.
클라우드 마이그레이션은 복잡하고 다각적인 프로세스로, 기업의 고유한 요구사항에 맞는 솔루션이 필요하다. 생성형 AI는 잠재력이 있지만, 지나치게 의존하면 단순화보다는 비용과 복잡성을 증가시킬 수 있다. 성공적인 마이그레이션의 핵심은 클라우드 전환의 까다로운 환경을 헤쳐 나가기 위해 전문화된 도구와 사람의 전문 지식에 의존하면서 AI가 탁월한 부분을 활용하는 균형 잡힌 접근 방식에 있다.
생성형 AI의 한계와 현실적인 애플리케이션을 잘 이해한다면, 기업은 마이그레이션 전략을 더 잘 계획하고, 과잉 자동화의 함정을 피하며, 클라우드로 보다 원활하고 비용 효율적인 전환을 보장할 수 있을 것이다.
editor@itworld.co.kr
