EMA의 새로운 연구에 따르면 IT 관리자들은 생성형 AI가 서비스 성능을 향상시킬 수 있다고 봤지만, 여전히 AI 데이터 품질과 보안을 우려하고 있었다.
생성형 AI는 지난 2022년 등장 이후 여러 비즈니스 분야, 특히 IT 분야에서 빠르게 정착하고 있다. EMA(Enterprise Management Associates)의 최근 연구에 따르면 생성형 AI는 효율성과 생산성을 향상시킬 유망한 기술로 인식되지만, 보안과 데이터 품질에 대한 우려는 남아 있는 것으로 나타났다.
EMA는 최근 IT 조직이 생성형 AI 기술을 어떻게 활용하고 있는지를 조명하는 ‘IT 운영에의 생성형 AI 적용’ 보고서를 발표했다. 보고서를 위한 설문조사는 조직에서 생성형 AI 도구를 테스트 중이거나 사용 중인, 이 기술을 직접 경험한 적이 있다고 답한 151명의 응답자를 대상으로 진행됐다. 현재 어느 정도 생성형 AI를 활용하고 있다고 답한 IT 조직은 94%에 달했다.
EMA의 네트워크 관리 담당 연구 부사장인 샤무스 맥길리커디는 최근 웨비나에서 “설문조사 참여자들에게 AI를 IT 관리에 적용했을 때 가장 큰 이점이 무엇이라고 생각하는지 물어본 결과, IT 서비스 성능 최적화와 IT-비즈니스 연계 개선이 꼽혔다. 이는 예산을 관리하는 이들에게 매력적인 요소다”라고 설명했다.
설문조사 응답자들은 생성형 AI가 여러 방식으로 IT팀에 도움을 줄 수 있다고 봤지만, 직원을 대체하지는 않을 것이라고 예상했다. 응답자들이 언급한 주요 이점은 다음과 같다.
• IT 서비스 성능 최적화: 38.4%
• IT와 비즈니스의 연계 개선: 36.4%
• 사전 문제 예방: 31.1%
• 기술 구현 가속화: 30.5%
• 보안 리스크 감소: 28.5%
• 협업 및 지식 공유 개선: 27.8%
• 비용 최적화: 27.2%
• 사고 대응 및 해결 가속화: 26.5%
• 기술 격차 및 인재 부족 완화: 21.9%
응답자의 96%는 생성형 AI가 IT 직원의 생산성을 향상시킬 수 있다고 답했으며, 98%는 IT 대시보드와 보고서의 인사이트를 요약해 사용자 경험, 대역폭 사용률 추세, 경고 연관성 파악에 도움을 줄 수 있다고 언급했다. 맥길리커디는 “응답자들은 기술 격차나 인재 부족을 완화할 가능성을 가장 낮게 봤다. 이는 생성형 AI가 직원을 대체하는 것이 아니라 현직 직원들의 생산성을 높이는 기술로 인식되고 있다는 의미다”라고 말했다.
한편 IT 조직은 자제 개발한 사용 사례와 벤더가 제공하는 도구 모두에서 생성형 AI 애플리케이션을 활용하고 있다. 응답자의 약 94%가 현재 IT 조직에서 범용 생성형 AI를 사용하고 있다고 답했는데, 일반적인 사용 사례는 다음과 같았다.
• 문서/절차/지식 기반 생성: 74%
• 운영 데이터 분석: 69%
• 작업에 대한 단계별 안내: 66%
• 연구 및 학습: 64%
• 프로그래밍 및 스크립팅: 61%
• 구성 생성: 47%
응답자의 약 4분의 3(73%)은 조직에서 IT 벤더가 제공하는 생성형 AI를 사용하고 있다고 답했다. 주요 사용 사례는 IT 시스템 쿼리(67%), 행동 추천(66%), 제품 문서화 및 검증된 디자인 쿼리(60%), 작업 자동화(55%) 등이었다.
하지만 벤더가 제공하는 생성형 AI도 문제를 일으킬 수 있다. 예를 들어 기대만큼의 성능을 발휘하지 못하면 IT 조직은 생성형 AI 가치를 충분히 활용하지 못한다는 생각으로 비용을 우려하게 된다. 응답자의 약 5분의 1(18%)이 생성형 AI 및 IT 관리에 있어 비용을 주요 과제로 꼽았다.
이에 대해 맥길리커디는 “IT 벤더의 AI 도구가 약속한 대로 제공되지 않는다고 생각하는 이들은 비용을 우려했다. 이는 IT 조직이 벤더의 생성형 AI 기능에 투자한 뒤, 품질이 좋지 않거나 기대 이하라고 판단되면 해당 도구의 비용이 더 큰 문제가 된다는 것을 시사한다”라고 언급했다.
한편 생성형 AI에 대한 우려도 여전히 있었다. IT 조직이 생성형 AI와 관련해 주요 과제로 꼽은 영역은 AI 결과물의 품질을 평가하는 것이었다. 응답자의 약 63%는 데이터 품질뿐만 아니라 AI 생성 콘텐츠 또는 인사이트의 정확성 및 신뢰성을 제대로 평가할 수 있는 역량을 우려하고 있다고 답했다. 응답자의 30%는 AI 도구를 기존 프로세스와 통합하는 것도 다소 어려운 과제라고 언급했다.
생성형 AI 관련 과제로 사용자의 수용을 꼽은 비율도 20%에 달했다. EMA는 특히 IT 담당자가 생성형 AI 콘텐츠와 추천을 신뢰하는 데 익숙해지기가 어려울 수 있다고 설명했다. 범용 도구의 경우 응답자의 63%가 ‘어느 정도 우려하고 있다’라고 답했으며, 54%는 IT 벤더 제공 도구에 대해 같은 생각을 갖고 있다고 응답했다.
IT 전문가들은 보안 및 규정 준수의 문제도 우려하는 것으로 나타났다. AI 도구는 민감한 데이터를 추출하는 데 악용될 수 있기 때문에 IT팀은 경계를 늦춰선 안 된다. EMA에 따르면 보안 및 규정 준수와 관련한 주요 우려 사항은 다음과 같다.
• 프롬프트를 통한 데이터 유출: 52%
• AI가 생성하는 악성 코드 및 필터: 44%
• AI 기반 보안에 대한 과신: 43%
• 규정 준수 위반: 40%
• 취약점을 만드는 잘못된 수정: 32%
맥길리커디는 “사용자들은 AI 솔루션, 특히 그 솔루션에서 나오는 콘텐츠의 품질을 평가하는 데 어려움을 겪고 있다. 그리고 보안 및 규정 준수를 우려하고 있으며, 응답자의 대다수는 어느 정도의 위험성을 인식하고 있다”라고 덧붙였다. dl-ciokorea@foundryco.com
