관리자는 이제 존재하지 않는 정보를 출처로 인용하는 등 명백한 AI 생성 흔적이 보이는 문서나 편집 내용을 신속히 삭제할 수 있다.
로봇이 작성한 부정확한 텍스트가 웹 전반에 퍼지면서, 전자책과 유튜브는 물론 위키백과까지 AI 생성 콘텐츠의 영향권에 들고 있다. 특히 위키백과는 개방성이 최대 강점인 동시에 잘못된 정보를 바로잡는 주요 수단이기 때문에, 이 같은 상황은 더욱 심각한 문제로 떠오르고 있다. 이에 따라 위키미디어 측은 AI 텍스트의 확산에 대응하기 위한 새로운 정책을 도입했다.
새롭게 공개된 정책에 따르면, 위키백과 관리자들은 대형 언어모델(LLM)로 생성된 것이 명백한 문서나 편집 내용을 신속히 삭제할 수 있는 권한과 도구를 갖게 됐다. 이는 기존 ‘신속 삭제’ 절차를 확장한 것으로, 자원봉사 편집자 및 관리자들이 일주일간 논의하는 기존 삭제 프로세스를 생략할 수 있도록 했다.
이제 새로 생성됐거나 대폭 수정된 문서 중 “여기 여러분의 위키백과 문서가 있습니다(Here is your Wikipedia article on…)” 같은 문구를 포함하거나, 존재하지 않는 정보를 출처로 인용하는 경우, LLM 생성 텍스트로 의심되어 해당 문서에 태그를 붙일 수 있다. 이는 자동 생성 텍스트에서 흔히 발생하는 문제이며, 실제로 일부 변호사나 접착제를 넣은 피자를 홍보하려 했던 사용자 사례에서도 나타난 바 있다. 이런 표현이나 허위 출처가 함께 존재하는 경우, 작성자가 해당 문서를 제대로 읽지도 않았다는 강력한 신호로 간주된다.
이처럼 AI 생성 문서로 의심되는 명백한 징후가 보일 경우, 과거에는 장난성 콘텐츠나 광고성 문구에만 적용되던 ‘신속 삭제’ 절차를 통해 즉시 삭제될 수 있다.
위키미디어 편집자 일리아스 르블뢰는 404 미디어와의 인터뷰에서 “삭제되는 대부분의 신규 문서는 여전히 일주일간의 토론 과정을 거친다”라고 설명했다. 하지만 AI로 빠르게 대량 생성되는 콘텐츠가 늘어나면서, 명백한 불량 콘텐츠를 더 빠르게 처리할 수단이 필요했다고 덧붙였다. 르블뢰는 이번 조치가 “AI 생성 콘텐츠 중에서도 가장 심각한 사례에 대한 임시 방편(band-aid)”일 뿐이며, 근본적인 문제는 계속될 것이라고 전했다.
한편 르블뢰는 AI 생성 콘텐츠와의 싸움을, 인간이 증기 드릴과 경쟁했던 존 헨리라는 미국 민속 이야기처럼 인간과 기계의 대결로 비유하며, 이번 정책 역시 그 연장선에 있는 대응이라고 표현했다. 실제로 위키미디어는 올해 초 AI가 생성한 문서 요약 기능을 도입하려 했으나, 편집자 다수가 이를 거부한 바 있다. 위키백과 편집자 바울프는 “위키백과의 브랜드는 신뢰성과 편집 기록의 추적 가능성, 그리고 ‘누구나 수정할 수 있다’는 점”이라며 “AI는 이 모든 특징과 정반대에 있다”라고 말했다.
dl-ciokorea@foundryco.com
