“AI가 작성한 글 구별하기 아직 어려워”··· 오픈AI, AI 콘텐츠 탐지 도구 개발 중

오픈AI는 공식 블로그를 통해 “7월20일부로 AI 분류기(AI classifier)는 낮은 정확도로 인해 더 이상 사용할 수 없다”라며 “AI 분류기 관련 피드백을 통합하고 있으며, 현재 텍스트에 대한 보다 효과적인 출처 증명 기술을 연구하고 있다. 오디오 또는 시각 콘텐츠가 AI로 생성된 것인지 사용자가 이해할 수 있는 메커니즘을 개발 및 배포하기 위해 노력하겠다”라고 설명했다. 

오픈AI가 설명하는 AI 분류기는 지난 1월 공개된 기술이다. 글을 입력하면 작성자가 AI인지 인간인지 판별해 알려주는 기술이었으며 웹 도구 형태로 공개됐다. 특히 교육 업계에서 AI 콘텐츠를 구별하고자 하는 요구사항이 높다는 점을 고려해 오픈AI는 교육 업계가 해당 기술을 많이 이용해달라고 당부하기도 했다. 현재 AI 분류기로 접속하는 링크는 막힌 상태다. 

AI 분류기 기술은 처음부터 여러 가지 제약사항이 있었다. 오픈AI는 모든 콘텐츠를 분류하는 것은 불가능하지만 자동화된 허위 정보 캠페인, 학문적 부정행위, 사람으로 위장한 AI 챗봇의 콘텐츠를 구분하는 데 도움이 될 것이라고 밝힌 바 있다. 이때 분류기는 1,000자 미만의 콘텐츠에 대해서는 제대로 작동하기 어렵고 영어 외에 다른 언어에 대한 인식 능력도 현저히 떨어진다고 명시했다. 

여러 제약 사항이 있음에도 불구하고 오픈AI의 AI 분류기는 제 기능을 수행하지 못한 것으로 보인다. 테크크런치는 AI가 쓴 콘텐츠와 인간이 쓴 콘텐츠를 분류하는 기술인 GPT제로(GPTZero)라는 서비스와 오픈AI의 AI 분류기를 함께 이용하며 7개의 문단을 테스트한 결과 “GPT제로는 5개 문단을 제대로 구분했지만, 동일한 콘텐츠에 대해 오픈AI 기술은 1개만 구분해 냈다”라고 설명했다. 
jihyun_lee@idg.co.kr