애플이 자사 AI 서비스 '애플 인텔리전스'의 뉴스 알림 요약 과정에서 발생한 오류를 공식 인정하고 시스템 업데이트 계획을 발표했다.
이번 오류는 BBC 뉴스 기사 알림에서 실제 보도되지 않은 허위 정보가 생성되면서 논란이 됐다. BBC에 따르면, 지난해 12월 애플 인텔리전스는 아이폰 사용자에게 유나이티드헬스케어 CEO에 대한 총격 사건 정보를 요약하는 과정에서 용의자 루이지 맨지오니가 스스로 목숨을 끊었다는 허위 내용의 알림을 전송했다. BBC는 이러한 내용의 기사를 작성한 적이 없음에도 애플의 AI가 단어를 임의로 조합해 마치 맨지오니가 사망한 것처럼 잘못 요약했다고 지적했다.
또한 애플 AI 서비스는 개최되지도 않은 스포츠 경기의 우승자를 임의로 생성해 알림을 발송하는가 하면, 스페인 테니스 선수 라파엘 나달이 커밍아웃했다는 등 사실과 전혀 다른 내용의 알림을 전송하는 등의 오류도 발견됐다.
BBC는 해당 오류를 발견한 후 “공신력 있는 언론사로서, BBC의 이름으로 전달되는 모든 정보는 신뢰할 수 있어야 한다”라며 애플 측에 문제 해결을 공식 요청했다.
이 소식이 알려지자 비영리 언론지원 단체인 국경없는기자회는 “AI 시스템이 저널리즘을 기반으로 하더라도 질 높은 정보를 체계적으로 제공하지 못한다는 점이 명백히 드러났다”라며 “확률에 기반을 둔 AI 시스템은 뉴스를 전달하는 신뢰성 있는 도구가 될 수 없다”라고 비판했다. 국경없는기자회는 또한 “애플이 책임감 있게 행동해 뉴스 관련 AI 요약 기능을 제거할 것을 촉구한다. 언론사 이름을 달고 잘못된 정보를 자동으로 생성하는 것은 해당 언론사의 신뢰도에 타격을 줄 뿐만 아니라, 대중이 올바른 정보에 접근할 기회를 잃게 된다”라고 주장했다.
애플은 BBC의 항의에 대해 별도 입장을 내놓지 않다가 6일 BBC를 통해 입장문을 전달했다. 애플은 이번 문제에 대한 우려를 인정하고, 앞으로 알림이 ‘AI 시스템’에 의해 생성된 요약임을 명확히 표시하는 방향으로 소프트웨어를 개선하겠다고 밝혔다. 해당 업데이트는 몇 주 내로 배포될 예정이다.
BBC에 따르면, 애플이 이같은 오류에 대해 공식 입장을 밝힌 것은 이번이 처음이다. BBC는 문제가 된 알림이 BBC 앱 내부에서 생성된 것으로 파악했다. BBC는 “애플의 AI 요약은 BBC 원본 콘텐츠를 제대로 반영하지 않았으며, 일부 사례에서는 완전히 상반된 내용을 전달했다”라며 “정확한 뉴스 전달은 신뢰 유지의 핵심이므로 애플은 이 문제를 시급히 해결해야 한다”라고 강조했다.
한편, BBC는 애플뿐만 아니라 구글의 검색 상단 요약 서비스에서도 부정확한 정보가 생성된 적 있다고 밝혔다. 또한 뉴욕타임즈의 기사 요약 알림도 일부 스마트폰에서 내용이 잘못 요약되는 현상이 발견됐다고 전했다.
jihyun.lee@foundryco.com
