애플, 부정확한 AI 뉴스 알림 문제 해결 예정

AI 생성 요약의 신뢰성 확보 필요성 대두

애플이 최근 자사의 최신 아이폰에서 제공한 인공지능(AI) 기반 뉴스 알림 서비스의 오류를 바로잡기 위해 소프트웨어 업데이트를 진행할 계획이라고 발표했다. 이는 AI가 생성한 뉴스 알림이 부정확한 정보를 전달하면서 논란을 일으킨 데 따른 조치다.

한 예로, AI는 미국의 한 의료 산업 CEO를 살해한 혐의를 받은 루이지 망지오네(Luigi Mangione)가 구금 중 자살했다고 잘못 알렸으나, 실제로 그는 생존해 구금 상태인 것으로 확인됐다. 또 다른 사례로는 테니스 스타 라파엘 나달(Rafael Nadal)이 커밍아웃을 했다는 잘못된 알림을 제공했다. 특히, 이러한 잘못된 알림이 BBC의 로고와 함께 전송되면서 BBC로부터 강력한 항의가 제기됐다.

BBC와 언론 단체들, 신뢰성 위기 경고

원본 기사와 AI 생성 뉴스의 괴리

BBC는 AI로 생성된 요약 내용이 원본 기사의 취지를 제대로 반영하지 않았다고 지적하며, 이러한 문제를 즉각적으로 해결할 것을 요구했다. BBC는 정확한 보도를 통해 독자와의 신뢰를 유지하는 것이 매우 중요하다고 강조했다. 이와 함께 ProPublica를 비롯한 다른 언론 단체들 또한 AI와 관련된 유사한 오류를 보고하며 문제 해결에 대한 목소리를 내고 있다.

애플, AI 기능 개선 약속

사용자 피드백 기반의 업데이트 계획

애플은 해당 AI 기능이 아직 시험 단계인 '베타' 상태에 있으며, 사용자 피드백을 기반으로 개선 작업을 진행 중이라고 밝혔다. 또한, 향후 업데이트를 통해 AI 시스템이 요약한 알림임을 명확히 표시할 계획이라고 덧붙였다. 하지만, 이러한 조치에도 불구하고 전미기자협회(National Union of Journalists)는 해당 AI 기능의 완전한 제거를 요구하며, 정확한 보도의 중요성을 다시 한 번 강조했다.

자동화된 뉴스, 책임의 경계와 신뢰성의 문제

공신력 있는 정보 제공이 최우선 과제

국경없는기자회(Reporters Without Borders)는 콘텐츠가 AI 생성으로 라벨링되는 방식이 책임을 사용자에게 전가할 가능성이 있음을 우려했다. 이 단체는 잘못된 정보의 자동화 생산이 언론사의 신뢰성을 훼손하고 대중이 신뢰할 만한 뉴스를 접할 권리를 침해한다는 점을 지적했다.

의견

애플의 AI 기술이 혁신적인 도구를 제공하려는 의도임은 분명하지만, 아직 신뢰성과 정확성을 갖추지 못한 상태에서 대중에게 노출된 점은 아쉬운 부분이다. AI가 정보 제공의 효율성을 높이는 데 기여하려면, 정확한 데이터와 사용자의 신뢰 확보가 최우선 과제로 자리 잡아야 한다. 이번 논란을 통해 애플이 더 나은 방향으로 개선을 이루어내길 기대한다.