앞으로 더 많은 출판사들이 ChatGPT 제작자 오픈AI와 콘텐츠 라이센스 계약을 체결하면서, AI 챗봇이 출처를 생성하는 방법에 관한 이번 주 Tow Center for Digital Journalism의 연구가 관심을 끌고 있다.
AI 챗봇의 불안정한 출처 신뢰성
콜롬비아 저널리즘 스쿨에서 진행한 이 연구는 오픈AI와 계약 여부에 관계없이 생성형 AI 도구가 정보를 왜곡하거나 창작하는 경향이 있음을 시사하고 있다. 연구진은 계약을 맺은 출판사와 맺지 않은 출판사에서 각각 10개의 기사를 무작위로 선정하여 200개의 인용문을 수집하고, ChatGPT가 각 인용문의 출처를 정확히 식별하는지를 확인했다. 이 출처에 대한 정확성이 중요한 이유는, 출판사들이 자신의 콘텐츠가 올바르게 인용되고 반영되기를 기대하기 때문이다.
실험 결과, 오픈AI와의 관계 정도와 관계없이 어느 출판사도 ChatGPT에서 콘텐츠가 잘못 표현되는 것을 피할 수 없었다. Tow 연구센터의 연구원들은 “오픈AI는 사용자에게 ‘관련 웹 소스로의 링크를 통해 시기적절한 답변’을 제공한다고 강조하지만, 이 인용문의 정확성을 보장하겠다는 명시적인 약속은 없다”고 밝혔다. 이는 콘텐츠의 정확한 인용과 표현을 기대하는 출판사들에겐 중대한 누락으로 평가된다.
출처 : Study of ChatGPT citations makes dismal reading for publishers