AI 및 ML 기업 허깅페이스(Hugging Face)가 커뮤니티 회원들에게 공격으로부터 보호하기 위해 액세스 토큰을 새로 고치거나 더 안전한 토큰으로 전환할 것을 권고했다.
허깅페이스가 AI 프로젝트를 위한 커뮤니티 저장소인 스페이스에서 액세스 인증 정보가 노출될 가능성이 있는 보안 침해 문제를 보고했다.
회사는 블로그 게시물에서 “이번 주 초에 스페이스 플랫폼에 대한 무단 액세스를 감지했다. 이 액세스는 기밀 정보와 관련돼 있었으며, 결과적으로 스페이스의 일부 기밀 정보가 무단으로 액세스됐을 수 있다는 의혹이 제기됐다”라고 밝혔다.
허깅페이스는 이번 침해가 플랫폼의 취약점 때문인지는 공개하지 않았다. 현재 이 문제를 조사 중이며 아직 피해 범위는 밝히지 않았다.
액세스 토큰 새로 고침이 도움
허깅페이스는 커뮤니티 회원들에게 액세스 키와 토큰을 새로 고치거나, 사고 이후 새로운 기본값이 된 ‘세분화된(fine-grained)’ 액세스 토큰으로 HF 토큰을 전환할 것을 권장했다.
HF 토큰은 허깅페이스 서비스에서 애플리케이션이나 노트북을 인증하기 위해 선호되는 사용자 액세스 토큰이었다. 허깅페이스는 “문제 해결의 첫 번째 단계로 다수의 HF 토큰을 취소했다. 토큰이 취소된 사용자에게는 이미 이메일 알림이 전송됐다”라고 말했다.
또한 지난 며칠 동안 조직용 토큰을 완전히 제거하고, 스페이스 비밀 정보를 위한 키 관리 서비스(KMS)를 구현했으며, 유출된 토큰의 탐지 기능을 강화하는 등 스페이스의 보안을 개선했다고 언급했다.
허깅페이스는 “외부 사이버 보안 포렌식 전문가와 협력해 문제를 조사하고 보안 정책과 절차를 검토하고 있다”라고 덧붙였다.
현재 허깅페이스 제품을 사용해 AI 기반 도구를 만들고 있는 조직은 2023년 기준 10,000곳 이상이다. 스페이스 커뮤니티는 120만 명 사용자를 보유한 최대 온라인 AI 커뮤니티다.
유사한 공격에 직면한 스노우플레이크
AI 기반 애플리케이션을 개발하고 배포하는 도구가 등장하면서 그 환경에 대한 위협도 증가하고 있다. 대부분 플랫폼의 ‘커뮤니티’ 소유권과 주변의 보안 체계가 취약하기 때문이다.
AI 워크로드에 필요한 관계형 빅데이터를 저장하고 관리하는 데 널리 쓰이는 데이터 클라우드 기업인 스노우플레이크(Snowflake)에서도 유사한 침해 사고가 있었다는 주장이 나왔다.
스노우플레이크 최고 정보 보안 책임자인 브래드 존스는 포럼 업데이트에서 “스노우플레이크와 사이버 보안 기업 크라우드스트라이크, 맨디언트는 일부 스노우플레이크 고객 계정에 대한 표적 위협 캠페인 관련해 진행 중인 조사 내용을 공동 발표한다. 조사 과정에서 스노우플레이크는 영향을 받았을 것으로 추정되는 제한된 수의 고객에게 즉시 알렸다. 또한 맨디언트는 잠재적으로 영향을 받을 수 있는 조직에 대한 지원 활동에 참여했다”라고 밝혔다.
존스에 의하면 전직 직원의 데모 계정에 대한 개인 자격 증명을 위협 행위자가 획득해 사용했는데, 이런 데모 계정은 스노우플레이크의 기업 및 생산 시스템과 달리 옥타(Okta)나 멀티팩터 인증(MFA)을 사용하지 않았기 때문에 표적이 됐다.
앱옴니(AppOmni)의 최고 기술 책임자이자 공동 창립자인 브라이언 소비는 “스노우플레이크에서 발생한 사고는 시장 전반에서 볼 수 있는 동일한 문제로, 기업들이 SaaS 애플리케이션의 보안을 보안 아키텍처에 통합하지 않고 있기 때문이다. 이 사례에서는 싱글 사인온(SSO)을 필수 항목이 아닌 선택 항목으로 설정하도록 구성했기 때문에 공격자가 훔친 자격 증명을 이용해 스노우플레이크의 서비스나우 인스턴스에 직접 로그인하는 데 사용했을 뿐이다”라고 설명했다.
최근 산탄데르(Santander) 은행과 티켓마스터(Ticketmaster) 등 대규모 2차 보안 침해 사고가 잇달아 발생했다. 이 사건의 배후라고 주장한 위협 그룹 ‘샤이니헌터스(ShinyHunters)’는 직원의 계정을 해킹한 후 스노우플레이크에서 데이터를 훔쳤다고 말했다.
세이프브리치의 최고 정보 보안 책임자인 아비샤이 아비비는 “이 사건은 클라우드 서비스 업체에서 호스팅되는 대규모 데이터 레이크로의 전환이 미칠 수 있는 잠재적 영향에 대한 여러 가지 문제점을 드러냈다. 여기에 인증 정보 유출 및 세션 쿠키 하이재킹이 더해지면 폭풍이 일어날 수 있다. 아직 이 사건의 구체적인 내용을 파악하는 초기 단계에 있다는 점을 이해하는 것이 중요하다”라고 말했다. dl-ciokorea@foundryco.com
