설비에서 생성된 데이터를 엣지에서 캡처하고 분석해 운영을 개선하려는 기업이 늘고 있다. 사례에 따라 엣지단에서 처리되기도 하고 때로는 클라우드로
빌 홈즈는 펜더 뮤직 인스트루먼트(Fender Musical Instruments Corp)의 캘리포니아 공장 설비 관리자다. 그는 공장 현장에서 조잡한 핸드헬드 진동 분석기를 컴퓨터에 연결해 장비의 상태를 파악하던 시절을 아주 잘 기억하고 있다.
75년 전, 레오 펜더가 이 유명한 악기 회사를 설립한 당시에는 모든 목공 작업이 수작업으로 이뤄졌다. 그러나 이제 넥과 바디는 컴퓨터 컨트롤러 목공 라우터로 제작이 되며, 이후 숙련공들에게 넘겨져 완제품으로 탄생한다. 홈즈는 항상 최신 기술 발전상에 대해 조사한다고 말했다. 그리고 가장 골치 아픈 문제는 장비 고장이다.
사전에 정한 일정에 따라 기계 상태를 파악하는 예측 유지보수만으로는 부족하다. 그는 “고장 가운데 90%는 그 즉시 공정 중단으로 이어진다. 비즈니스에 타격을 주는 문제이다. 문제가 발생하기 전에 발견할 수 있다면, 생산을 중단하지 않아도 되고, 유지보수 팀이 급히 문제를 해결하지 않아도 된다”라고 말했다.
약 1만 6,000제곱미터 면적에 1,500개 이상의 장비가 설치된 펜더의 공장은 기계에 센서를 설치해 AI 분석을 활용하기 좋은 ‘후보지’이다. 펜더는 실제 이렇게 하고 있다. 단 약간 변형했다. 이 회사는 아마존의 클라우드 기반 모니트론(Monitron) 서비스를 통해 아마존 클라우드에서 모든 데이터 처리 작업을 수행하고 있다.
아마존의 100% 관리형 서비스는 펜더 같은 소규모 회사에 특히 매력적이다. 아마존이 NFC를 통해 아마존 와이파이 게이트웨이에 연결되는 무선 센서를 제공하기 때문이다. 아마존의 게이트웨이는 분석을 위해 아마존 클라우드로 관련 데이터를 전송하도록 사전 구성되어 있다. 아마존은 머신러닝 알고리즘을 개발하고, 데이터를 처리하며, 홈즈에게 직접 알림을 보낸다.
홈즈는 “기본적으로 중소기업이 자신의 장치에 이를 배치, 트레이닝 없이 쉽게 모니터링할 수 있도록 가격과 비용을 낮춘 서비스이다. 아주 중요한 부분이다. 모든 제조업체는 고장이나 문제가 발생했을 때 생산이 중단되는 핵심 장비를 갖고 있기 때문이다”라고 말했다.
홈즈는 지금까지 9대의 ‘미션 크리티컬’ 기계에 이를 적용했고, 멕시코 엔세나다의 2번째 생산 시설에 이 시스템을 배치할 계획을 갖고 있다. 클라우드를 사용했을 때의 또 다른 이점은 미래에는 두 시설의 데이터를 통합 집계해 추가적으로 분석을 실시할 수 있다는 것이다. 또 하나의 대시보드에서 두 시설을 모두 추적할 수 있다.
AI를 구현하는 엣지 컴퓨팅
IDC에서 엣지 전략 조사를 담당하고 있는 데이브 맥카시 디렉터에 따르면, 제조와 운송, 물류, 헬스케어, 소매, 석유 및 가스 등 기본적으로 물리적 자산이 있는 모든 산업에서 머신에서 생성된 데이터는 엣지 컴퓨팅의 ‘동력’ 역할을 할 수 있다. 그는 “이런 머신(기계)이 생성하는 데이터에서 유의미한 인사이트를 찾고, 이런 데이터에 대한 대응을 자동화하는 것이 AI”라고 설명했다.
STL 파트너스(STL Partners) 틸리 길버트 시니어 컨설턴트는 일반적으로 지연에 민감한 실시간 애플리케이션은 AI를 엣지에서 처리하는 것이 가장 좋다고 말했다. 많은 데이터 세트를 클라우드로 보내 처리하는 방식이 효율적이지 못한 시나리오이기 때문이다. 지연 문제에 추가, 엣지 컴퓨팅은 백홀 비용을 줄여주고, 민감한 데이터를 외부로 보내는 것을 금지한 프라이버시 규정과 보안 정책 등을 준수하도록 도움을 준다.
그에 따르면 엣지에서의 AI 기반 데이터 처리가 ‘틈새’ 유즈 케이스를 넘어, 점점 더 주류화 되어가고 있는 중이다. 이를 견인하는 동인은 기업의 업타임(가동 시간) 증가 필요성, 성능 향상 필요성이다.
엣지/AI를 쉽게 배포할 수 있도록 도와주는 요인들이 많다. IoT 센서가 사전 장착된 물리적 자산이 증가하고 있는 것, 엣지 기술을 공급하는 벤더가 증가하고 있는 것을 예로 들 수 있다. 여기에는 데이터센터의 ‘연장선’으로 엣지를 포지셔닝하고 있는 시스템 통합업체, 서드파티 신생 창업회사, 하이퍼스케일급 클라우드 공급업체, 전통적인 인프라 관련 기업들도 포함된다.
엔터프라이즈의 경우, 온프레미스나 클라우드, 엣지 등 사례에 따라 적합한 위치에서 워크로드를 실행할 수 있다. 또는 이를 조합해 활용할 수 있다. 펜더의 사례가 보여주듯, 엣지와 클라우드를 모두 가장 잘 활용할 수 있는 여러 다양한 기술과 방법들이 있다.
맥카시에 따르면, 현재 대부분 엔터프라이즈가 하이브리드 클라우드나 멀티 클라우드를 이용하듯, AI 기반 엣지 애플리케이션도 고립된 형태로 운영되지 않는다. 엣지에서 AI를 처리하는 경우에도, 클라우드를 기반으로 머신러닝 알고리즘을 개발하고 모델을 트레이닝 할 수 있다. 그리고 이런 실시간 데이터를 클라우드로 전송 및 통합, 역사적 데이터 세트를 분석해서 더 장기적인 계획 수립의 이정표로 활용할 수 있다.
소매 부문의 엣지 AI
길버트에 따르면, 엣지와 AI를 결합해 사용할 때의 특히 흥미로운 부분 중 하나는 새로운 활용 사례의 발굴이다.
내부에서 AI 분석 기능을 개발할 스킬을 보유하지 못한 기업들이 많다. 또 가용한 유즈 케이스를 인식하지 못할 수도 있다. 이에 서드파티 신생 창업회사들이 주도적으로 ‘레디-메이드’ 시스템을 개발해 공급하고 있다. 이를테면 월마트와 크로거 같은 대형 소매업체들은 매장의 ‘셀프 계산대’를 대상으로 손님이 고의로, 또는 실수로 일부 물건값을 지불하지 않아 초래되는 손실을 줄여주는 서드파티 AI 기반 엣지 시스템을 배치하고 있다.
월마트와 크로거에 관련 기술을 공급하는 아일랜드의 신생 창업회사인 에버시인(Everseen)의 전략적 성장 담당 VP인 알렉스 시스코스는 자신의 회사가 소매업체들에게 과거 골치 아픈 문제였던 이런 손실 문제를 해결했다고 강조했다. 시스코스에 따르면, 소매업체들은 셀프 계산대에서 돈을 잃고 있는 것을 알고 있었다. 그러나 그 이유가 고객의 실수인지, 종업원들이 친구들에게 상품을 무료로 주는 등의 ‘빼돌리기’ 때문인지, 또는 ‘영리한 도둑들’이 크고 값비싼 물건 아래 껌 같이 싼 제품을 놓아 스캐너가 껌 가격만 청구하도록 만드는 것이 이유인지 알기 어려웠다.
에버시인은 셀프 계산대에 GPU 기반의 컴퓨터 비전 카메라를 설치하고, 소매업체의 스캐닝 시스템과 통합되어 스캐너가 껌으로 판단을 하는 경우에도 카메라가 ‘기저귀 상자’를 확인하면 실시간으로 여러 ‘액션’을 트리거 할 수 있는 소프트웨어를 개발했다. 이 경우, 고객 앞의 결제 디스플레이 화면에 ‘기계가 마지막 아이템을 잘못 스캔했을 수 있습니다’는 팝업 경고창이 표시된다. 직원이 개입하기 전, 고객의 의도를 선의로 해석해서 스스로 바로잡을 수 있도록 유도하는 방법이다. 마지막 수단으로 이 시스템은 셀프 계산대 디스플레이 화면에 관련 행동이 담긴 비디오를 재생하는 기능을 갖고 있다.
시스코스는 “우리는 비구조화 데이터를 인사이트, 액션, 궁극적으로 이익으로 전환 및 실현시킬 수 있다”고 강조했다. 그는 소매업체들이 이런 방법으로 도난을 줄이고, 재고의 정확성을 높여 매주 매장 당 2,500-4,500달러를 절감하고 있다고 전했다.
에버시인 시스템은 데이터를 엣지에서 처리한다. 시스코스는 이와 관련, “행동이 일어나는 장소, 사실이 존재하는 장소이기 때문이다”라고 설명했다. 시스템은 델 파워엣지 서버와 에버시인 소프트웨어로 구성되어 있다. 소프트웨어는 GPU 공급업체인 엔비디아가 만든 개발 플랫폼에 기반을 두고 있다. 클라우드와 관련된 부분도 있다. 모델을 클라우드에서 트레이닝하고, 관리 및 모니터링 또한 클라우드에서 처리된다.
에버시인은 현재 미국과 유럽에서 10만 개가 넘는 계산대를 모니터링하고 있고, 아이템을 잘못 스캔한 순간을 기록한 4-5초 분량 동영상 클립을 저장하고 있다. 이런 데이터를 보고 목적에서 클라우드로 보낸다. 이런 데이터는 알고리즘 트레이닝에도 도움을 준다. 시스코스는 “AI는 굶주린 동물이다. 더 많이 먹일수록 더 좋다”라고 말했다.
헬스케어 분야에서 견인력을 얻은 AI
엣지 컴퓨팅이 AI의 동력 역할을 하는 또 다른 분야는 헬스케어다. 마취과 의사이자 기업가인 앤드류 고스틴 박사는 병원의 자원을 최적화해 효율성을 높이고 비용을 절감하는 데 AI를 적용한 기업을 창업했다.
병원은 생명을 구하지만, 동시에 영리를 추구하는 기업이다. 레스토랑이 하루 동안 고객 회전율을 높여야 하듯, 병원도 수술실에서 마찬가지 일을 해야 한다. 고스틴의 회사인 아티사이트(Artisight)는 수술실에 설치된 여러 대의 무선 카메라를 ‘수술실에 장착된 여러 무선 카메라를 이용해 ‘항공 교통 관제실’로 활용했다.
환자가 수술실에 도착하는 즉시 마취과 의사와 외과 의사에서 이를 자동으로 통보한다. 수술실 밖 복도에는 큰 스크린이 있다. 여행객에게 비행기와 게이트에 대한 정보를 알려주는 공항 스크린과 유사한 스크린이다. 이는 병원 직원들에게 올바른 장소와 올바른 시간을 알려준다.
단순하게 들리지만, 고스틴은 시스템을 배치한 시카고 지역 병원들에서 생산성이 16% 향상되었다고 강조했다. 아티사이트 시스템은 병원용으로 개발된 엔비디아의 클라라 가디언(Clara Guardian) 엣지/AI 플랫폼에 기반을 두고 있으며, 델 서버와 스토리지에서 실행되는 프리패키지 번들로 제공된다.
처리는 내부에서 이뤄진다. 예를 들어, 노스웨스턴 메모리얼 병원은 매일 1.2 페타바이트의 비디오를 생성하는 데, 이렇게 많은 양의 데이터를 클라우드로 전송하는 비용이 너무 많이 들고, 지연 문제가 발생할 수 있기 때문이다.
아티사이트 시스템은 사람들의 신원을 제거해 프라이버시를 보호한다. 또한 수술의가 자신의 수술을 되짚고, 이 영상을 동료들과 공유해 피드백을 얻을 수 있도록 수술의 중요 부분을 기록한다.
고스틴은 계속 확대되는 엣지 유즈 케이스에 이 기술이 활용될 수 있다고 강조했다. 예를 들어, 카메라로 병실을 모니터링해 환자가 침대에서 떨어졌는지 파악할 수 있다. 또한 수용력 관리 프로그램의 일부로 병실을 모니터링 하는 데 이 시스템을 이용할 수도 있다. 병실이 비면 이를 즉시 지원 관리 부서에 알리고, 가용한 병실의 현황을 유지하고, 침구를 바꾸고 적절한 의료 장비를 비치하는 목적으로 이용할 수 있다.
AI 동향에 주의를 기울여왔다면 IBM의 과감한 예측을 잘 알고 있을 것이다. 왓슨(Watson)이 언젠가 암을 치료하게 될 것이라는 예측이었다. 그러나 이 프로젝트는 당초 약속을 지키지 못했다. 고스틴은 ‘기적 같은 치료법’ 같은 과도한 약속이 AI를 후퇴시켰다고 주장한다. 더 일상적이고 실제적이며, 효율성을 높이고 비용을 절감할 수 있는 애플리케이션에 AI를 활용하는 것이 더 중요하다. 병원의 자원을 확보, 환자 치료를 확대하는 것이 더 낫다는 이야기이다.
IBM은 ‘아주 큰 목표’를 추구했지만, 프로스퍼 디지털 테라퓨틱스( Prosper Digital Theraputics ; ProsperDTX)는 타깃이 분명한 목적에 머신러닝을 활용하는 헬스케어 부문의 신생 창업 회사이다. 이 회사를 공동 창업한 로버트 골드버그 CEO는 “클라우드에 환자 데이터를 통합하고, 머신러닝을 적용해 삶의 질을 높이고, 우리 모델을 토대로 했을 때 가장 큰 위험을 초래할 수 있는 합병증을 줄이는 치료 계획을 개발한다”라고 설명했다.
환자가 암 진단을 받아 항암 화학 치료를 받는다고 가정하자. 이 환자는 고용주가 제공하는 보험이 치료에 도움을 주기 위해 프로스퍼DTX를 선정했다는 이메일을 받게 된다. 프로스퍼DTX는 직접 치료를 하거나, 약을 처방하지 않는다. 의료진을 위한 ‘동반자나 조력자’에 가까운 역할을 한다. 프로스퍼DTX는 항암 화학 치료를 받는 환자가 메스꺼움이나 체중 감소, 우울증 같은 부작용을 극복할 수 있도록 도움을 준다.
골드버그는 “모델이 환자가 빈혈이나 탈수에 취약하다고 알려주면, 시스템은 이와 관련된 좋은 습관이나 행동을 장려한다”라고 말했다.
오라클 클라우드 기반 데이터 웨어하우스에서 모든 데이터 모델링을 처리한다. 한 장소에서 모델링과 시각화를 처리할 수 있는 시스템이다.
웨어러블 및 가정에서 사용하는 환자 모니터링 시스템이 더 많이 보급되면, 프로스퍼DTX는 환자와 함께 변화를 주도하고, 환자에게 문제가 있을 때 이를 의사에게 알릴 수 있다. 골드버그는 “사용자가 동의하면 냉장고 안을 살펴볼 수도 있다”라고 덧붙였다.
dl-ciokorea@foundryco.com
