생성형 AI의 급속한 발전으로 분석 및 IT 리더는 데이터 전략 및 데이터 관리와 관련하여 더 많은 압박을 받는 것으로 나타났다. 최근 IT 임원을 대상으로 진행된 여러 설문 조사 결과를 비교해보며 생성형 AI 시대 앞서나갈 수 있는 팁을 얻어보자.
11월 초 발표된 세일즈포스(Salesforce)의 데이터 및 분석 현황 보고서에 따르면 비즈니스 리더의 77%가 이미 생성형 AI의 혜택을 놓치고 있다고 우려하고 있으며, 마케팅 리더의 경우 그 비율이 88%에 달했다.
세일즈포스의 이번 조사 결과는 지난 9월에 발표된 IDC의 전 세계 최고 경영진 설문조사 2023-2024 결과와 일치한다. IDC 설문조사에 참여한 최고 경영진의 절반 이상이 새로운 투자를 위해 생성형 AI를 최우선으로 고려하고 있으며, 87%는 최소한 잠재적인 사용 사례를 검토하고 있다고 답했다.
IT 리더들 역시 생성형 AI에 열광하고 있다. 파운드리가 최근 발표한 AI 우선순위 연구 2023에 따르면 IT 의사결정권자의 56%가 생성형 AI에 대해 더 많은 것을 배우고 싶어 하는 것으로 나타났다. IT 리더는 챗봇 및 가상 비서(56%), 콘텐츠 생성(55%), 산업별 애플리케이션(48%), 데이터 증강(46%), 개인화된 추천(39%)에 생성형 AI를 적용하고 있었다.
세일즈포스의 설문조사에 따르면, 소위 ‘AI 얼리어답터’는 이미 고객 서비스 해결 시간 단축, 매출 증대 등 생성형 AI로 혜택을 보고 있었다. 물론 이로 인해 데이터 관리 및 데이터 거버넌스를 구축의 중요성도 커지고 있다. 세일즈포스 보고서에 따르면 기술 리더의 87%는 AI의 발전으로 인해 데이터 관리의 우선순위가 높아졌으며, 92%는 신뢰할 수 있는 데이터가 그 어느 때보다 더 필요하다고 답했다. IT 리더들은 성공적인 생성형 AI 사용을 위한 요건으로 정확하고 완전하며 통합된 데이터(55%), 비즈니스에 대한 새로운 위협을 방지하기 위한 강화된 보안 조치(54%), 윤리적 사용 지침(30%) 등을 꼽았다.
세일즈포스의 자회사인 태블로 소프트웨어(Tableau Software)의 CEO인 라이언 아이타이(Ryan Aytay)는 “데이터 관리의 개념과 신뢰할 수 있는 데이터의 확보는 계속해서 중요해지고 있다”라며 “많은 고객이 AI로 데이터 관리가 더 중요해지고 말하고 있다. 심지어 시급한 문제라고 보고 있다. 또한 오늘날 데이터에서 충분한 가치를 얻고 있다고 느끼지 못한다는 심각한 의견을 말하는 고객도 많다”라고 설명했다.
데이터 성숙도에 대한 단절
세일즈포스의 보고서에 따르면 분석 및 IT 리더들은 전반적으로 조직의 데이터 성숙도에 대해 자신감을 느끼고 있었다. 데이터 역량, 프로세스, 후원, 투자, 비전 등의 요소를 고려했을 때, 리더의 37%는 조직의 데이터 성숙도가 동급 최고 수준이라고 답했으며, 또 다른 57%는 데이터 성숙도가 업계 표준과 동등하다고 답했다. 데이터 성숙도가 업계 표준에 미치지 못하거나 존재하지 않는다고 생각하는 리더는 6%에 불과했다.
기술 리더는 데이터의 정확성에 대해서도 가장 자신감이 높았다. 세일즈포스는 데이터 및 분석 부서의 57%와 IT 부서의 53%가 데이터 정확성에 대해 완전히 확신한다고 답했다. 데이터에 의존하는 현업 부서는 훨씬 더 회의적이었으며, 마케팅(45%), 영업(42%), 서비스(40%) 부서의 리더는 조직 데이터의 정확성에 대해 덜 확신한다고 답했다.
아이타이는 “궁극적으로 데이터가 최신성을 가졌는지가 매우 중요하다”라며 “옳고 그름의 문제가 아니다. 영업 리더는 실시간으로 데이터가 필요하다. 데이터가 24~48시간이 지난 것이라면 최신 데이터가 아니므로 기술적으로 잘못된 것이다”라고 설명했다.
그럼에도 불구하고 기술 리더의 94%는 데이터에서 더 많은 가치를 얻어야 한다고 답했으며, 78%는 조직에서 데이터로 비즈니스 우선순위를 추진하는 데 어려움을 겪고 있다고 답했다. 데이터 관련해서 리더가 우선시하는 영역은 데이터 품질 개선, 보안 및 규정 준수 강화, AI 역량 구축, 전사적 데이터 해독 능력 향상, 도구 및 기술 현대화였다. 다만 목표를 세우는 건 간단할지 모르지만, 실제로 이를 달성하는 것은 어려운 일이다. 특히 AI에 대한 단기 및 장기 전략을 말할 때는 주변인을 설득해야 하는 과정을 거쳐야 한다.
이해관계자의 불만
이러한 성공을 위해서는 통합 데이터 전략이 필수적이다. IT 리더의 59%는 통합 데이터 전략이 없다고 답했으며, 이는 생성형 AI를 구현하는 데 있어 가장 큰 우려 사항이라고 표현했다. 또한 60%는 생성형 AI가 현재 기술 스택에 통합되지 않을 것이라고 설명했다.
아이타이는 “최고 데이터 책임자, 즉 IT 책임자에게 ‘데이터 전략이 일치하고 있습니까?”라고 묻는다면 당연히 일치한다고 생각할 수 있다”라며 “하지만 비즈니스의 다른 이해관계자가 매일 필요로 하는 것과 정말 일치할까? 내가 영업 리더라면 내 파이프라인을 알아야 한다. 예측을 알아야 한다. 얼마나 많은 담당자를 고용했는지 알아야 한다. 예정된 이벤트가 무엇인지 알아야 한다. 하지만 이러한 정보가 IT 팀과 연결되어 있지 않고 IT 팀이 나와 같은 방식으로 생각하지 않는다면 실제로 조정된 전략을 세우기가 매우 어렵다”라고 설명했다.
세일즈포스는 현업 부서 리더의 41%가 조직의 데이터 전략이 비즈니스 목표와 거의 또는 전혀 일치하지 않는다고 생각하는 반면, 분석 및 IT 리더의 37%는 같은 생각을 가지고 있다는 사실을 발견했다. 이런 차이는 공유된 KPI의 부족이 이 문제의 근본 원인일 수 있다.
기술 리더의 60% 이상이 비즈니스 팀의 데이터 활용 또는 인사이트 도출 속도에 대해 잘 모른다고 인정했으며, 68%는 데이터 수익 창출의 가치를 추적하지 않아 데이터 이니셔티브의 ROI를 효과적으로 정량화하기 어렵다고 답했다.
아이타이는 영업팀이 고객과의 아웃바운드 커뮤니케이션을 자동화하고 싶을 수도 있지만, 외부 생성형 AI를 사용하면 회사의 독점 데이터가 공개 대규모 언어 모델(LLM)로 유출될 위험이 있다고 지적했다. 그는 “IT 및 데이터 부서와 협력하는 경우 더 신뢰할 수 있는 방식으로 작업을 수행해 볼 수 있다. 민감 데이터를 가리고 데이터 관련 작업이 중단되지 않고 규정 준수를 보다 확실히 지키는 식이다”라고 말했다.
실제로 비즈니스 리더와 기술 리더 모두 ‘보안 위협’을 데이터 프로젝트에서 중요한 과제로 꼽았다. 새로운 데이터 소스를 통합하고 새로운 기술을 활용할 기회가 늘어남에 따라 취약점도 증가하고 있기 때문이다. 조직의 데이터 양과 복잡성이 증가함에 따라 위협 표면도 확장된다는 문제도 있다.
파운드리의 설문조사에 따르면 IT 리더의 45%가 보안과 개인정보 보호가 생성형 AI와 기존 시스템의 통합에 영향을 미치는 요소라고 생각하는 것으로 나타났다. IDC의 설문조사에서도 응답자의 45% 이상이 보안 문제가 생성형 AI 이니셔티브 구현과 관련된 가장 큰 과제라고 생각하고 있었다.
또한 데이터의 양과 복잡성이 증가함에 따라 데이터 조화의 어려움이 가중되어 데이터 소스에서 가치를 추출하기가 점점 어려워지고 있다. 기술 리더의 3분의 2 이상이 향후 1년간 데이터 양이 평균 22% 증가할 것으로 예상했다.
세일즈포스는 데이터를 효과적으로 활용하기 위해서는 데이터 거버넌스와 데이터 문화를 구축하는 것이 핵심이라고 조언했다. 데이터 거버넌스는 조직 내에서 누가 데이터 자산에 대한 권한과 통제권을 가지고 있는지, 그리고 정보를 수집, 관리, 저장, 측정 및 전달하는 일련의 규칙 또는 정책을 포함하여 이러한 데이터 자산이 어떻게 사용될 수 있는지를 정의하는 시스템이다.
조직은 데이터 전략의 이러한 근본적인 측면을 파악해야 한다. 그렇지 않으면 생성형 AI로 인한 리스크가 실제 현실로 나타나고 데이터 기반 의사 결정 및 데이터 관련 발전을 저해할 수 있다.
dl-ciokorea@foundryco.com
