구글이 AI 이미지 생성 기능을 일시적으로 제공하지 않겠다고 22일 밝혔다. 구글의 생성형 AI 모델 ‘제미나이’가 역사를 제대로 반영하지 않은 이미지를 만든다는 비판 이후 취한 조치다.
구글은 X(구 트위터) 홍보 계정을 통해 “제미나이가 역사와 관련된 이미지 생성 과정에서 부정확한 이미지를 제공하고 있다는 것을 인지했다”라며 “이번 문제를 해결하기 위해 구글은 노력하고 있으며 작업을 진행하는 동안 이미지 생성 기능을 일시 중단하고 개선된 버전을 다시 출시하겠다”라고 밝혔다.
여기서 말하는 문제는 구글의 AI가 이미지를 생성할 때 백인 노출을 지나치게 피하고 있다는 지적에서 나왔다. IT 매체 더버지는 이런 주장이 주로 우익 성향의 계정에서 확산되고 있다고 밝혔다. 예를 들어 ‘미국 여성 사진을 만들어 달라’ 또는 ‘스웨덴 여성 사진을 출력해달라’라는 요청에 지나치게 유색 인종 중심 사진이 생성되고 있다는 것이다.
좀 더 논란이 이뤄졌던 영역은 역사적 상황과 관련된 이미지였다. 미국 독립 선언에 참여한 정치인을 일컫는 일명 ‘미국 건국의 아버지’ 이미지를 보여달라고 했을 때 제미나이는 흑인이나 아시아인을 보여주기도 했다. 바이킹족 이미지를 요청했을 때 흑인 사진이 나왔으며, 교황 이미지를 보여달라고 했을 때 여성 교황이나 흑인 교황이 나오기도 했다. 다른 결로 나치 시대 군인을 보여달라는 요청에서 나치 군인을 백인 외에 여성, 흑인, 동양인으로 묘사하기도 했다.
더버지는 “1800년대 미 상원의원 이미지를 제미나이에 요청하니 흑인 및 원주민 여성을 포함한 이미지를 출력했다”라며 “이는 실제 미국 역사 속에 있던 인종 차별 및 성차별을 AI가 지운 것과 마찬가지”라고 평가했다.
소셜 미디어에 이런 논란이 일자 구글은 곧바로 “광범위한 주제의 결과를 만들다 보니 역사 관련 이미지를 만드는데 부정확한 내용을 담게 되었다”고 사과했다. 구글은 현재 제미나이 이미지 생성 기술을 일부 수정하고 있으며, 지역별로 순차적으로 다시 서비스를 공개하겠다고 밝혔다.
jihyun_lee@idg.co.kr
