이번 사건은 사실적인 오디오 및 비디오 위조 콘텐츠를 만들 수 있는 기술인 딥페이크에 대한 우려를 다시 불러일으키고 있다.
연방통신위원회(FCC)가 선거 관련 잘못된 정보를 퍼뜨리기 위해 AI 생성 위조 음성 파일을 만들고 발신자 번호 스푸핑을 사용한 혐의로 한 정치 컨설턴트에게 600만 달러의 벌금을 부과하라고 결정했다.
FCC는 성명서에서 ” 정치 컨설턴트인 스티브 크레이머가 2024년 1월 21일 발생한 이번 불법 로보콜 캠페인의 책임자다. 그는 600만 달러의 벌금에 직면했다”라고 밝혔다.
FCC는 크레이머가 조 바이든 대통령의 목소리를 딥페이크한 로보콜 캠페인을 조직함으로써, 뉴햄프셔 유권자들에게 ‘11월 선거를 위해 투표를 유보해달라’라며, 1월 예비선거에 참여하지 말 것을 촉구했다고 전했다.
대통령 예비선거를 불과 이틀 앞두고 이루어진 크레이머의 행동은 ‘발신자 표시 진실법(Truth in Caller ID Act)’ 위반에 해당한다는 설명이다. 이 법은 사기, 해를 입히거나 부당하게 가치를 얻을 의도로 허위 또는 오해의 소지가 있는 발신자 번호 정보를 전송하는 것을 금지한다.
“FCC는 악의적인 행위자가 미국 통신 네트워크를 사용하여 선거를 방해하거나 소비자를 속이거나 민감한 데이터를 손상시키기 위해 생성 AI 기술의 오용을 촉진할 수 없도록 신속하고 단호하게 행동할 것”라고 FCC의 집행국 책임자이자 개인정보 및 데이터 보호 태스크포스 위원장인 로얀 A 에갈은 성명서에서 말했다.
FCC는 또한 불법 로보콜을 조장하는 역할을 한 링고 텔레콤에 대해서도 조치를 취했다.
“링고 텔레콤은 이러한 통화를 전송하면서 발신자 ID 증명을 가장 높은 수준으로 표시함으로써, 다른 제공업체가 문제의 통화를 감지할 수 있는 가능성을 낮췄다. 위원회는 오늘 크레이머의 불법 로보콜과 관련하여 발신자 ID 정보 확인에 대해 적절한 ‘고객 알기’ 프로토콜을 활용하지 않은 링고 텔레콤에 대해 STIR/SHAKEN 위반이 명백하다는 이유로 별도의 집행 조치를 취했다”라고 위원회는 밝혔다.
위원회는 전화 소비자 보호법(TCPA)에 따라 AI 생성 음성으로 이루어진 전화는 ‘인공적’이라고 명시했다. 아울러 FCC와 주 법무장관이 이러한 사악한 로보콜 배후에 있는 악의적 행위자를 추적하는 데 필요한 도구를 가지고 있음을 명백히 했다. FCC는 또 전화 및 문자 메시지에서 AI 사용 현황에 대한 정보를 수집하고 로보콜과 같은 새로운 위협에 대해 질문하기 위한 공식 절차를 시작했다고 밝혔다.
더 광범위한 논쟁
이 사건은 감지가 어렵거나 불가능한 오디오 및 비디오 위조 콘텐츠를 만들어내는 기술인 딥페이크의 오용 가능성에 대한 우려를 다시 불러일으켰다.
이달 초, 배우 스칼렛 요한슨은 오픈AI가 자신의 목소리를 동의 없이 사용했다고 주장하며 비슷한 문제를 제기한 바 있습니다. 그녀는 ‘스카이’ 음성 채팅의 목소리가 자신과 “섬뜩하게 비슷하게 들린다”고 주장했다. 그러나 오픈AI는 이 주장을 빠르게 반박했다.
샘 알트먼 오픈AI CEO는 성명서에서 “스카이의 목소리는 스칼렛 요한슨의 목소리가 아니며, 스칼렛 요한슨과 닮도록 의도한 적도 없다. 요한슨과 접촉하기 앞서 우리는 스카이의 목소리를 연기할 성우를 캐스팅했다. 요한슨을 존중하는 의미로 우리는 제품에 스카이의 목소리를 사용하는 것을 중단했다”라고 밝혔다.
기술 연구 및 컨설팅 회사인 테크아크의 설립자이자 수석 애널리스트인 파이살 카우사는 “요한슨의 사례는 AI가 생성한 콘텐츠를 둘러싼 광범위한 윤리적, 법적 문제와 개인의 프라이버시와 신원을 보호하기 위한 엄격한 규정의 필요성을 환기한다”라고 말했다. dl-ciokorea@foundryco.com
