미국은 물론 세계적으로 인종차별 반대 시위가 한창인 가운데, IBM이 대형 기술기업 중에는 처음으로 안면인식 시스템을 포기하겠다고 발표했다. 이
기술 분야에서 영향력이 큰 기업의 이러한 결정은 안면인식 기술을 치안과 사회 곳곳의 다른 분야에 어떻게 사용할지에 관심을 집중시켰다. 안면인식 기술은 유색 인종의 얼굴을 중심으로 얼굴 매칭이 부정확해 인종적 편견을 초래한다는 공격을 받았었다.
가트너의 닉 잉겔브레츠트 조사 담당 디렉터는 <CMO>에 IBM의 결정 하나가 큰 변화나 차이를 가져오지는 않는다고 말했다. 안면인식 시장이나 물리적 보안 시장에서 큰 영향력을 발휘한 기업이 아니었기 때문이다. 그렇지만 이러한 움직임은 인권 침해의 소지가 있는 기술 문제를 해결하려는 큰 변화의 일부다.
그는 “구글, AWS, 마이크로소프트, IBM 같은 대기업은 논란의 여지가 있는 자사의 기술 사용에 관한 평판을 의식하고 있으며 안면인식 기술을 점점 더 피하고 있다”라고 말했다.
그러면서 향후 소비자 사례에서 안면인식 기술이나 성별과 인종, 기타 편향적이거나 인권 침해적인 기술과 데이터세트의 잠재적인 용도에 관한 중대한 질문이 제기되고 있다.
IBM과 아마존의 움직임에 대한 질문
IBM의 CEO 아르빈드 크리슈나는 미국 의회에 보내는 인종차별과 관련된 사법 개혁 문제에 대한 서한에서 IBM은 다른 업체들이 공급하는 안면인식 기술을 포함, 일반 대중 감시, 인종적인 프로파일링, 기본 인권과 자유 침해, 기타 신뢰와 투명성의 가치에 부합하지 않는 목적으로 기술이 사용되는 것을 반대한다고 강조했다.
크리슈나는 “우리는 지금이야말로 국가적인 차원에서 국내의 법 집행기관들이 안면인식 기술을 사용할지 여부, 그 방법에 대한 대화를 시작할 시기라고 믿는다. 인공 지능(AI)은 법 집행기관이 시민의 안전을 보장하는 데 도움을 줄 수 있는 강력한 도구이다. 그러나 AI 시스템 업체와 사용자는 법 집행 분야에서 사용될 때를 중심으로 AI에 편향이 없도록 검증하고, 이런 편향에 대한 검증 절차 및 결과를 감사받고 보고하도록 공동 책임을 져야 한다. 마지막으로 국가 정책을 통해 바디 카메라와 최신 데이터 분석 기법같이 치안에 사용되는 기술의 투명성과 책임을 높이는 기술을 발전시키고, 이의 사용을 장려해야 한다”라고 설명했다.
아마존은 경찰 제복에 사용되는 자사의 안면인식 플랫폼인 ‘레코그니션(Rekognition)’ 지원을 1년 동안 중단한다고 발표했다. 그러나 다른 조직에는 이 기술을 계속 공급할 계획이라고 덧붙였다. 아마존은 얼굴 대조 기술이 어떻게 좋은 일에 사용될 수 있는지 강조하려는 듯, 쏜(Thorn), ICMEC(International Center for Missing and Exploited Children), 마리너스 애널리틱스(Marinus Analytics)는 인신매매 피해자, 실종 아동 구조에 계속 레코그니션을 사용할 수 있다고 설명했다.
아마존은 짧은 블로그 게시글에서 “정부는 안면인식 기술을 윤리적으로 사용하는지 감독하는 강력한 규제를 도입해 이행해야 하며, 최근 의회가 이 도전과제를 극복하고자 준비하는 것으로 보인다. 우리는 1년 동안의 지원 중단을 통해 의회에 적절한 규칙을 도입할 충분할 시간을 줄 수 있으리라 판단한다. 요청이 있다면 우리는 도울 준비가 되어있다”라고 설명했다.
주주들과 함께 기술 분야 기업들의 책임 의식을 촉진하기 위해 노력하고 있는 비영리 단체인 오픈 마이크(Open MIC)에 따르면, 몇 년 동안 아마존은 규제를 받지 않는 유해한 기술을 경찰에 판매하는 일을 중단하라고 촉구해왔다. 이 단체의 마이클 코너 대표는 아마존의 이런 발표를 환영했다.
그러나 “이는 일시적인 중단에 불과하고, 급격히 발전하고 있는 감시 경제에서 아마존의 역할에 대한 주주들의 깊은 걱정을 해소하지 못한다”라고 지적했다.
오픈마이크에 따르면, 이 발표가 있기 2주 전 아마존의 독립 주주들은 2개의 결의안을 40% 찬성으로 가결했다. 레코그니션과 아마존의 링 도어벨 기술, 기타 감시용 제품들이 인권과 평등권을 침해하는 데 대한 우려를 제기한 결의안들이었다.
코너는 MIT의 연구 결과를 인용, 아마존 레코그니션 기술에 성별과 인종에 대한 편향이 있으며, 백인과 비교했을 때 여성과 유색 인종을 잘못 인식하는 경향이 더 강하다고 지적했다.
코너는 아마존의 고위 경영진과 이사들에게 “아마존은 규제를 지지하고, 이런 기술들이 차별과 같은 부정적인 영향을 초래할 수 있다는 점을 인정하고 있다. 그러나 한편에서는 규제를 받지 않는 환경에서 레코그니션을 판매하면서 이런 영향이 초래될 위험을 감수하고 있다. 이 2가지가 일치되지 않는다”라고 지적했다.
알고리즈믹 저스티스 리그(Algorithmic Justice League)를 만든 MIT의 연구원인 조이 불라뮈니는 IBM의 결정을 높이 평가했지만, 동시에 시스템적 변화를 촉구했다.
그녀는 “경찰에 배치된 경우를 중심으로 안면인식 기술이 인권을 훼손하고 있으며, 특히 흑인과 원주민, 유색 인종에 피해를 주고 있음을 인정한 점은 환영할 일이다”라고 말했다.
알고리즈믹 저스티스 리그는 계속해서 안면인식 기술을 공급할 기업들은 이 단체가 안면인식과 분석 기술의 남용을 줄이기 위해 개발한 메커니즘인 ‘세이프 페이스 서약(Safe Face Pledge)’에 서명할 것도 촉구했다. 이 서약은 기술을 파괴적으로 사용하고, 경찰이 불법으로 사용하는 것을 금지하며, 정부에서 사용하는 경우에는 투명성을 요구한다.
한편, 마이크로소프트는 미국에서 안면인식 기술을 현재 판매하고 있지 않을 뿐 아니라 이 기술을 사용하는 방법을 규제하는 연방법이 도입되기 전에는 이 기술을 판매하지 않을 계획이라고 밝혔다. 마이크로소프트의 브래드 스미스 사장은 워싱턴 포스트와 가진 인터뷰에서 “기술 회사만이 아닌, 의회가 행동해야 한다. 그것이 사람들의 생명 보호를 보장할 유일한 방법이다”라고 강조했다.
호주의 경우, NEC의 안면인식 기술이 정부와 상업 부문 모두에 사용되고 있다. 상업 부문의 경우 건물 출입, 신원 확인이나 인증, 라이선스와 문서 위조 여부 등에 사용된다. 전 세계적으로 70개 국가와 지역에서 1,000여 종의 바이오 매트릭(생체 인증) 시스템이 사용되고 있다. 이 회사의 홍보 담당자는 <CMO>에 여러 인종과 다른 인구통계학적 집단과 관련, 안면인식 알고리즘의 정확성을 구현하는 데 많은 노력을 기울였다고 말했다.
이 회사는 AI와 인권에 대한 원칙 같은 핵심 가치들을 추구한다. 또한 우리 사회에서 인종차별을 종식하는 노력에 헌신하고 있다. 이 홍보 담당자는 “시스템적인 인종차별이나 다른 형태의 사회적 불공정이 계속해서 흑인과 소수계 공동체를 억누른다면 세상이 밝아지지 않을 것이다. NEC는 앞으로도 계속 공공 안전과 사회적 정의에 도움을 주는 방식으로 기술이 책임 있게 쓰이도록 만드는 노력에 헌신할 계획이다. 우리는 치안기관들이 편향(편견)을 없애고 프라이버시, 자유, 권리를 보호하고 사회 정의가 구현되도록 공정하면서도 효과적으로 수사나 조사를 수행하도록 도움을 주는 첨단 안면인식 기술, 기타 혁신 기술을 활용할 수 있어야 한다고 믿는다”라고 말했다.
안면인식 기술과 관련해 압력을 받는 것은 대형 기술 기업만이 아니다. 최근 클리어뷰 AI는 민간 부문에 이러한 기술 공급을 중단할 수밖에 없었다. 데이터베이스에 약관에 위배되는 소셜미디어 플랫폼 이미지가 포함된 것이 드러났기 때문이다. 그러나 클리어뷰 AI는 법 집행기관에는 계속해 이 기술을 판매하고 있다. 뉴욕타임스 보도에 따르면, 미국의 600여 법 집행기관이 현재 이 회사의 기술을 이용하고 있다. 미국 상원의원 중 한 명은 클리어뷰 AI에 플랫폼의 편향과 정확성에 대한 독립적인 테스트를 요구했지만, 이 회사는 계속 이 요구를 거부하는 것으로 알려져 있다.
또한 유럽 데이터 보호 위원회(EDPB: European Data Protection Board)는 클리어뷰 AI 기술이 유럽에서는 불법일 가능성이 있다고 경고했으며, 구글과 페이스북, 트위터는 클리어뷰에 자신의 디지털 플랫폼을 통해 이미지를 수집하는 행위를 중지하라는 서한을 보냈다.
또 다른 웹 기반 안면인식 기업인 핌아이(PimEye)도 기술이 남용되고 있을 가능성이 있다는 공격을 받고 있다. 핌아이는 사용자가 얼굴 사진을 업로드, 인터넷에서 같은 사람의 다른 사진을 검색할 수 있는 플랫폼을 제공하고 있다.
영국의 빅브라더워치(Big Brother Watch)는 BBC에 “개인에게 아주 강력한 감시 기술이 판매되고 있는데, 이는 아주 오싹한 일이다”라고 말했다. 핌아이는 웹사이트를 뒤질 뿐이며, 약관을 통해 공개된 사진만 가져올 수 있게 되어 있다고 말하고 있다.
안면인식 기술을 앞으로도 계속 금지해야 할까?
안면인식 기술이 초래할 수 있는 프라이버시와 감시 문제에 초점이 맞춰지는 가운데, 일부 전문가들은 규칙과 지침만으로는 이 인권 침해 기술로부터 제대로 된 보호를 받을 수 없다고 지적한다. 모나쉬 대학 산하 신기술 연구소의 자단 사도브스키 박사는 일시적 사용 중지와 더 강력한 규제가 올바른 방향으로 유도하는 단계적 역할을 할 수 있지만, 이와 동시에 안면인식 기술을 금지할 필요가 있다고 말했다.
사도브스키는 “안면인식처럼 위험한 기술은 윤리적 사용에 관한 모범 사례를 만들려 시도하기보다 금지하기가 더 쉽다. 아마존은 치안과 관련 없는 기관, 조직에는 현재는 물론 앞으로도 계속 안면인식 서비스와 다른 감시 인프라를 제공할 것이다. 이번 조치는 주요 기관 사용자 중 하나에게 일시적으로 서비스를 중지한 것에 불과하다. 정의와 규제를 주창하는 사람들에게 이는 승리가 아니다. 그보다는 공격적으로 움직여 치안-산업 복합체로부터 실질적이고 영구적인 승리를 얻어내는 기회다”라고 말했다.
dl-ciokorea@foundryco.com
