지난주 마이크로소프트가 발표한 한 윈도우 AI 기능이 사용자 화면을 정기적으로 스크린샷으로 기록함에 따라 각종 비판이 제기되고 있다. 한 보안 전문가는 이를 키로깅 소프트웨어에 비유했다.
사용자의 화면을 일정 간격으로 기록하는 새로운 기능인 윈도우 리콜(Windows Recall)이 데이터 프라이버시 및 보안 위험성으로 인해 ‘프라이버시 악몽’으로 평가받는 양상이다.
마이크로소프트는 지난 20일 5초마다 사용자 화면의 ‘스냅샷’을 기록하여 3개월 전의 작업 기록을 검색할 수 있는 로그를 제공하는 생성형 AI 기반 도구를 발표했다. 이 기능은 6월 중순에 판매가 시작되는 코파일럿+ PC에 프리뷰 버전 형태로 탑재될 예정이다.
그러나 마이크로소프트에 따르면, 디폴트 값이 ‘활성’인 리콜 기능은 ‘콘텐츠 조정'(content moderation)을 수행하지 않는다. 이는 암호나 금융 계좌 번호와 같은 기밀 정보나 PC 화면에 표시되는 여타 모든 정보가 숨김 처리되지 않는다는 의미다.
리콜이 이렇게 많은 민감한 사용자 데이터를 기록하고 저장할 수 있는 기능 때문에 데이터 프라이버시 및 보안 위험에 대한 비판이 잇달아 제기됐다.
포레스터의 제프 폴라드 부사장 겸 수석 애널리스트는 “특정 시간 내에 컴퓨터에서 수행하는 모든 작업을 완벽하게 캡처하는 키로거와 스크린샷 기능이 내장되어 있다는 것은 사용자에게 엄청난 프라이버시 악몽일 수 있다. 일반 사용자들이 적극적으로 활용하지는 않을 듯하다”라고 말했다.
보안 소프트웨어 공급업체 컬처AI의 수석 보안 연구원인 존 스콧 또한 “나의 첫 느낌은 매우 빠르게 잘못될 수 있다는 것”이라고 말했다.
네트워크 보안 업체 소닉월의 위협 연구 담당 전무이사 더글라스 맥니는 보안 위험성이 가장 문제라고 평가했다. 그는 성명에서 “마이크로소프트 리콜 발표를 통해 AI와 여타 기능의 발전이 보안성을 희생해 얼마나 큰 편의를 제공할 수 있는지 재차 상기하게 됐다. 마이크로소프트 리콜에 대해 개인 정보 보호 우려가 다수 제기되고 있다. 그러나 공격자가 이 기능을 통해 확보할 수 있는 가능성이야말로 실제적인 위협이다”라고 말했다.
맥니는 권한 상승과 같은 다른 공격보다 디바이스에 접근하는 것이 더 쉽다고 말하며 “마이크로소프트 리콜을 사용하면 기기에 대한 초기 접근성만으로도 암호나 회사 영업 비밀과 같은 민감한 정보를 훔칠 수 있다”라고 덧붙였다.
그에 따르면 리콜을 실행하는 PC에의 접근성을 확보한 공격자는 암호, 온라인 뱅킹 세부 정보, 민감한 메시지, 의료 기록 또는 기타 기밀 문서 등 사용자가 약 3개월 동안 수행한 모든 작업에 액세스할 수 있게 될 가능성이 있다. 따라서 리콜의 존재는 키로깅이나 화면 녹화 소프트웨어를 설치하는 등의 공격 기법보다 더 간단하게 민감한 데이터를 훔칠 수 있는 가능성으로 이어진다. (마이크로소프트에 따르면 스냅샷을 찍을 때 이를 알리기 위해 윈도우 시스템 트레이에 리콜 아이콘이 표시된다.)
스콧도 맥니의 의견에 동의하며, “시스템에 내장된 기능을 켜면 되는데 굳이 키로깅 소프트웨어를 설치할 필요가 있을까? 물론이는 종전의 공격 기법과 다른 방식이다. 그러나 마이크로소프트가 ‘5초마다 스크린샷을 찍는’ 도구를 선보이기 전에는 없었던 방식이다. 결국 중요한 것은 5초마다 검색 가능한 스크린샷이 있다는 것이다”라고 말했다.
폴라드는 “마이크로소프트가 이번 릴리스를 통해 완전히 새로운 차원의 보안 세상을 열어내고야 말았다”라고 평했다. 마이크로소프트는 보안 문제에 대해 언급을 거부했다.
사이버 공격의 위험 외에도 데이터 프라이버시 문제도 제기된다. 영국에서는 데이터 프라이버시 권리를 집행하는 공공 기관인 정보 위원회(the Information Commissioner’s Office)는 22일 “사용자 프라이버시 보호를 위해 마련된 안전 장치를 파악하기 위해” 마이크로소프트에 리콜 기능 관련 서한을 보냈다고 밝혔다.
사용자 PC에 기록되고 수집되는 방대한 데이터는 데이터 보호 컴플라이언스 측면에서도 문제가 될 수 있다. 스콧은 GDPR 지침의 한 축이 비례성의 원칙(proportionality)이라며 “(리콜을 통해) 자신과 다른 사람들의 개인 데이터를 방대하게 수집하고 있는데, (그렇게 해야 할) 명확한 이유가 없는 것 같다”라고 말했다.
리콜은 사용자의 개인 정보 외에도 동료, 고객 또는 기타 제3자와 관련된 데이터를 수집하고 저장할 수 있다. 예를 들어 화상 통화 중에 이런 일이 발생할 수 있다. “리콜이 5초마다 스냅샷을 찍는 것과 관련해 사용자의 이름과 함께 이미지가 기록되는 것에 대해 명시적 허락이 있었는가? 고유 식별자가 충분히 있을 수 있으므로 큰 문제다”라고 스콧은 말했다.
또한 데이터가 로컬에 저장되기는 하지만 다른 곳에 백업되거나 향후 Microsoft의 클라우드 서버에 호스팅될 수 있는지에 대한 의문도 있다고 그는 덧붙였다.
S&P 글로벌 마켓 인텔리전스의 정보 보안 담당 수석 리서치 애널리스트인 저스틴 램은 기업이 보안 및 개인정보 보호 위험에 대처하는 것이 당연하다면서도, 사용자와 기업에 혜택이 있다면, 무조건적으로 배제할 일은 아니라고 말했다.
그는 “기업들이 직면한 과제 중 하나는 사용자 개인정보 보호, 사용자 생산성, 내부 위험 관리, 감시 및 컴플라이언스 사이에서 균형을 는 것이다. 리콜 및 코파일럿과 같은 도구를 통해 얻을 수 있는 총체적인 개별 생산성 향상 효과도 함께 살펴봐야 한다”라고 말했다.
그러나 기업이 이 기능을 아예 사용하지 말아야 한다고 경고하는 이들이 더 많은 양상이다. 소닉월의 맥니는 “사용 내역을 검색하는 기능이 시간을 절약하고 생산성을 높일 수는 있지만, 소규모 기업이 이 기능을 사용하기에는 위험이 너무 크다고 본다”라고 말했다.
포레스터의 폴라드는 “가능하면 이 기능을 사용하지 않는 것이 중요하다. 가능하다면 그룹 정책을 통해 이 기능을 제거하기를 권고한다. 이 기능이 어느 시점에서 활성화된 경우라면, 사용자가 의도적으로 활성화했는지 아니면 공격자가 데이터 수집의 일환으로 활성화했는지 파악할 수 있도록 원격 분석을 통해 활성화되었음을 알려주는 기능이 필요하다”라고 말했다.
마이크로소프트의 관리자 페이지에 따르면, 리콜을 사용하지 않으려는 사용자는 ‘윈도우용 스냅샷 저장 끄기’ 정책으로 리콜을 비활성화할 수 있으며, 이렇게 하면 디바이스에 이미 저장된 모든 스냅샷도 삭제된다.
마이크로소프트 지원 사이트에서는 “기업 고객의 경우 IT 관리자는 그룹 정책 또는 모바일 디바이스 관리 정책을 사용하여 스냅샷 자동 저장을 비활성화할 수 있다”라고 서술하고 있다.
한편 현재 리콜 기능은 프리뷰 버전이므로 일반 출시에 앞서 변경될 가능성을 배제할 수 없다. 램은 마이크로소프트가 이 기능을 개선하고 보안 및 개인 정보 보호에 대한 우려를 줄일 수 있는 방법이 있을 수 있다고 예측했다. 예를 들어, 리콜이 기록된 데이터를 좀더 ‘잊는’것이 가능할 것이라는 분석이다. 램은 “리콜이 기억하는 시간을 더 짧게 하거나 범위를 줄이면 어떨까? 정확성을 잃을 수 있는 대신 사용자 신뢰는 얻을 수 있다”라고 말했다.
또는 윈도우 AI 기능이 향상되어 리콜이 기록한 데이터를 더 효과적으로 분류할 수 있는 수준까지 발전할 수도 있으며, 윈도우 코파일럿이 화면 녹화를 중지해야 하는 시점을 예측하여 사용자에게 메시지를 표시하는 ‘강제 지침’도 제공할 수 있을 것이라고 그는 덧붙였다.
그러나 폴라드는 현재로선 이 기능을 안전하게 사용할 수 있는 방법을 찾기가 어렵다고 잘라 말했다. “이 기능은 그 자체로 위험하다. 이 기능을 활성화할 때 안심할 수 있게 해주는 보안 또는 개인 정보 보호 제어 기능을 현재로서는 상상할 수 없다”라고 그는 말했다. dl-ciokorea@foundryco.com
