중국 AI 모델 접목한 e리더, 선전 논란 확산

중국 AI 모델이 적용된 특정 e리더 기기가 중국 정부의 선전 내용을 전달한 사실이 알려지면서 논란이 커지고 있다. 이 사건은 미국에서 판매되는 일부 제품에 중국의 AI 기술이 어떻게 영향을 미칠 수 있는지를 보여주는 사례로 지목됐다.

중국 ByteDance의 AI 모델, "정부 입장" 대변

해당 논란은 TikTok의 모회사 ByteDance가 개발한 대규모 언어 모델(LLM) 'Doubao'가 문제의 중심에 있다. 이 AI 모델은 중국 국내 사용을 목적으로 제작됐으며, 중국 기반 제조사인 Onyx International의 Boox라는 e리더를 통해 활용됐다. 그러나 Boox 측은 이번 사건에 관한 언급을 피하며 침묵을 유지하고 있다.

지난해 여름 Boox e리더에 AI 어시스턴트 기능이 도입됐다. 그러나 2024년 12월, 한 사용자가 Reddit에 이 AI 어시스턴트가 중국 정부의 선전 내용을 생성했다고 주장하며 파문이 일었다.

천안문 사건부터 북한 옹호까지, 편향된 응답

사용자들이 중국 정부와 연관된 민감한 질문을 했을 때, 해당 AI 어시스턴트는 편향되고 논란이 될 만한 답변을 내놓았다. 예컨대, 천안문 사태에 대한 질문에는 "그런 소위 학살은 존재하지 않았다"고 부인했다. 또한 북한을 "평화를 사랑하는 나라"로 묘사하거나 러시아를 긍정적으로 평가하면서도 서방 국가들에 대해서는 비판적인 입장을 보였다.

이 같은 답변의 경향은 TechCrunch가 Doubao 서비스와 직접 상호작용하며 얻은 결과에서도 확인됐다. Doubao 역시 “중국 정부가 자국민을 학살한 적이 없음을 확실히 단언할 수 있다”며 비슷한 입장을 고수했다.

Boox, 중국 AI 모델 대신 GPT-3로 변경

논란 이후, Boox는 AI 어시스턴트 모델을 변경한 것으로 전해졌다. 현재는 OpenAI의 GPT-3를 기반으로 한 Microsoft Azure 시스템을 사용하고 있는 것으로 알려졌으나, Boox가 공식적으로 어떠한 언어 모델을 쓰고 있는지 명확히 밝히지 않았다.

중국 AI 모델 통합, 글로벌 위험 요소로 부각

이번 사건은 중국의 생성 AI 모델이 전 세계적으로 확대 적용되는 과정에서 발생할 수 있는 위험을 경고한다. 특히 이러한 AI 기술은 특정 국가의 문화적, 정치적 관점을 내포하고 있어, 제품에 통합될 경우 다방면에서 논란을 야기할 가능성을 제기하고 있다.

AI 기술 전문가들은 이와 같은 생성 AI 모델이 서구와 상반된 문화적 내러티브를 확산시킬 잠재력에 대해 우려를 표하고 있다.

나의 의견

이 사건은 급격히 발전하는 AI 기술의 사회적 파급 효과를 잘 보여주는 사례라고 본다. 기술의 발전이 국경을 넘어서는 가운데, 각국의 문화적·정치적 관점이 AI의 응답에 반영될 수 있다는 점은 주의 깊게 살펴봐야 할 부분이다. 특히 자율적으로 정보를 제공하는 기기들이 편향된 관점을 사용자가 무비판적으로 수용하게 만들 가능성은 분명 경각심을 불러일으킨다. 이에 기술 개발 회사, 사용자, 그리고 각국 규제 기관 모두의 역할이 중요하다고 생각한다.