AI 85% 민감 주제 회피 DeepSeek

AI의 민감한 주제 회피…85% 질문에 답변 거부

AI 시스템 DeepSeek이 논란이 많은 중국과 관련된 주제에 대해 답변을 회피하는 현상이 보고됐다. PromptFoo의 조사 결과, 해당 AI는 1360개의 민감한 주제를 담은 질문 중 85%에 대해 답변을 거부했으며, 제한적으로 제공된 응답은 '국가주의적' 색채가 강한 것으로 드러났다.

민감한 주제: 천안문부터 대만까지

DeepSeek의 모델은 대표적으로 천안문 시위나 대만의 정치적 상황과 같은 국제적으로 민감한 주제에 관해 대화를 꺼리는 경향을 보였다. 전문가들은 이러한 AI의 태도가 프로그래밍의 한계인지, 아니면 의도적인 검열인지에 대해 조사하고 있다.

검열 의혹과 보안 문제 대두

PromptFoo의 연구진은 DeepSeek이 특정 정보와 응답을 억제하는 방식을 비판했다. 그들은 이 시스템이 쉽게 해킹 가능하다는 점과 함께, 중국 연구소가 민감 주제를 의도적으로 검열하도록 설계했을 가능성을 제기했다.

DeepSeek 사례는 AI 기술이 단순히 정보 제공 도구를 넘어, 사회적∙정치적 이슈에 어떻게 대응해야 하는지를 둘러싸고 논란이 될 수 있음을 보여준다. 틀림없이 미래 AI 설계 방향에 대한 심도 있는 논의가 필요할 것이다.

의견

이 기사는 AI가 기술적 혁신을 넘어 정치적∙사회적 역학과 마주쳤을 때의 문제를 잘 드러내고 있다. 정보의 양방향성을 지키며 기술을 진보시키는 방안이 필요하다. AI의 설계는 단순히 기능성뿐만 아니라 윤리적 책임까지 고려돼야, 신뢰할 수 있는 시스템으로 발전할 수 있을 것이다.