공격자들은 인젝션 및 프레젠테이션 공격에 AI 딥페이크를 사용해 효과를 봤다. 이는 앞으로 더 많은 딥페이크를 보게 될 수 있다는 의미다. 이때 첨단 기술은 공격의 탐지뿐만 아니라 예방에도 도움이 된다.
보안 및 위험 관리 전문가들은 밤잠을 설치는 일이 많다. AI 딥페이크의 시대가 본격적으로 다가오고 있으며, 안타깝게도 오늘날의 신원 확인 및 보안 방식은 앞으로 살아남기 힘들다. 실제로 가트너는 2026년까지 기업의 약 3분의 1이 AI로 생성된 딥페이크로 인해 신원 확인 및 인증 솔루션을 신뢰할 수 없게 될 것이라고 예상했다. IT 조직이 직면한 모든 위협 중에서는 AI 딥페이크를 활용한 인젝션 공격이 가장 위험하다. 최근 사례에 따르면 딥페이크 인젝션 공격은 널리 사용되는 KYC(고객 파악) 시스템을 무력화할 수 있다. 지난해 인젝션 공격이 200% 증가했으나 이를 막을 방법이 없는 상황에서 CIO와 CISO는 AI 생성 딥페이크를 사용하는 공격을 막을 전략을 개발해야 한다.
먼저 악의적인 공격자가 AI 딥페이크를 사용해 시스템을 공격하는 방법을 정확히 이해해야 한다. 그런 다음 탐지가 아니라 예방에 도움이 되는 고급 기술을 통합하는 전략을 개발할 수 있다.
디지털 인젝션 공격
디지털 인젝션 공격은 누군가가 AI로 생성된 문서, 사진, 생체 인식 이미지 등의 가짜 데이터를 IDV(신원 확인) 플랫폼이 수신하는 정보 스트림에 ‘삽입’하는 것을 의미한다. 악의적 공격자는 가상 카메라, 에뮬레이터 및 기타 도구를 사용해 카메라, 마이크, 지문 센서를 우회하고 시스템이 실제 데이터를 수신했다고 믿도록 속인다.
인젝션 공격은 이제 프레젠테이션 공격보다 약 5배 흔해졌으며, AI가 생성한 딥페이크와 함께 사용될 경우 탐지가 거의 불가능하다. 공격자는 딥페이크 ID 문서를 사용해 KYC 프로세스를 속이거나 딥페이크 사진 및 동영상을 삽입해 안면 생체 인식 시스템을 속인다. 최근 AI 딥페이크 비디오 피드를 삽입해 홍콩 기업으로부터 2,500만 달러를 가로챈 공격이 대표적인 사례다. 생성형 AI의 부상과 함께 예상대로 AI 딥페이크도 증가하고 있다. 온피도(Onfido)는 지난해 딥페이크 공격이 3,000% 증가했다고 밝혔다. NSA, FBI, CISA는 “능력이 떨어지는 악의적 사이버 공격자들이 사용할 수 있는 합성 미디어 기술의 가용성과 효율성이 늘어나면서 이런 유형의 기술이 더 빈번해지고 정교해질 것”이라며 AI 딥페이크의 위협에 대한 우려를 공동으로 표명했다.
인젝션 공격 방어의 행심은 디지털 방식으로 변조된 이미지나 문서가 애초에 유입되는 것을 막는 데 있다. 유일한 방법은 모바일 암호화 같은 고급 보안 기술을 활용하는 것이다. 모바일 디바이스, 운영체제 및 앱에서 제공하는 암호화 서명은 애플과 안드로이드의 매우 높은 보안 관행을 따르기 때문에 위조가 사실상 불가능하다. 모바일 암호화를 사용해 디바이스, 운영체제 및 실행 중인 앱의 진위 여부를 확인하는 것이 인젝션 공격을 차단하기 위한 중요하고 결정적인 조치다.
프레젠테이션 공격
프레젠테이션 공격은 최종 사용자를 사칭해 시스템을 속이고 액세스 권한을 부여하려는 의도로 센서나 문서 스캐너에 가짜 데이터를 제시한다. 안면 생체 인식 프레젠테이션 공격은 딥페이크 ID 문서, ‘얼굴 바꾸기’, 심지어 초현실적인 가면을 사용해 누군가를 사칭하는 등 다양한 형태로 이뤄진다. IDV 및 KYC 플랫폼은 프레젠테이션 공격 탐지(PAD)를 활용해 제시된 문서와 사진을 확인하지만, 많은 PAD 기술이 AI 딥페이크를 사용한 인젝션 공격에 무력화될 가능성이 있다.
인젝션 및 프레젠테이션 공격에 대비하기
지난 몇 년간 수천 개의 기업이 이런 공격의 희생양이 됐다. 수억 달러의 금전적 피해, 수백만 명에게 영향을 미치는 랜섬웨어로 인한 시스템 중단, 개인 정보 도난, 회복할 수 없을 만큼 손상된 평판 등 그 피해는 헤아릴 수 없을 정도로 크다. 그리고 문제는 점점 더 악화되고 있다.
이런 공격을 막는 유일한 전략은 애초에 인젝션 공격이 발생하지 않도록 하는 신원 확인 도구를 사용하고, 화면 뒤에 있는 실제 사용자를 확인하는 데 집중하는 것이다. 이렇게 하면 IT 조직은 IDV 프로세스를 우회하거나 악용하는 휴먼 소셜 엔지니어링 벡터를 차단할 수 있다. 또한 디바이스 인텔리전스, AI 모델, 행동 생체 인식과 같은 인증 기술을 추가해 사기의 위험을 줄일 수 있다. 마지막으로, 기업이 종종 간과하는 주요 공격 벡터이자 주요 취약점인 MFA(다단계 인증) 및 비밀번호 복구 프로세스를 보호하는 솔루션에 투자해야 한다.
공격자들은 인젝션 및 프레젠테이션 공격에 AI 딥페이크를 사용해 큰 성공을 거뒀으며, 이는 앞으로 더 많은 딥페이크를 보게될 수 있다는 의미다. 위협을 막기 위한 핵심은 PAD, IAD(인젝션 공격 탐지), 이미지 검사를 결합한 다층적 접근 방식을 개발하는 것이다. 이 전략은 기업이 현재 직면한 ‘사이버 팬데믹’을 극복하고 보다 안전하고 신뢰할 수 있는 미래로 나아가는 기반이 될 것이다.
* Aaron Painter는 딥페이크 전문가이자 인공지능이 생성한 딥페이크로부터 계정을 보호하기 위해 설계된 신원 확인 플랫폼 네임태그(Nametag)의 CEO다.dl-ciokorea@foundryco.com
