AI 챗봇의 발언, 미 대선 혼란 조장

최근 미국 대선을 앞두고 발생한 AI 챗봇의 오답 사례가 큰 파장을 일으켰습니다. X(구 Twitter)의 챗봇인 Grok은 여러 주요 주의 대선 결과에 대해 혼란스러운 답변을 내놓았는데요. TechCrunch에 따르면, Grok은 투표가 아직 진행 중인 상황에서 오하이오와 노스캐롤라이나에서 트럼프가 승리했다고 잘못 응답했습니다.

투표 결과 관련 정보의 오류와 영향

Grok은 웹 검색과 소셜 미디어 게시물에서 가져온 정보를 기반으로 이러한 잘못된 응답을 했다고 밝혔습니다. 특히 과거의 선거 관련 트윗이나 오해를 불러일으킬 수 있는 소스들로부터 영향을 받은 것으로 보입니다. 이는 기존 데이터를 바탕으로 정보를 생성하는 생성 AI 모델의 한계로, 새로운 상황의 결과를 예측하는 데 어려움을 겪고 있는 사례입니다.

정확한 정보를 위한 권장 사항

Grok은 보다 정확한 정보를 얻기 위해 사용자가 Vote.gov와 같은 공식 소스 참고를 권장했으나, OpenAI나 Google처럼 명확한 부정을 하지 않은 점에서 더 많은 오류 가능성이 있었습니다. 예를 들어, 질의에 '대통령'이라는 단어를 추가함으로써 답변 결과가 달라짐을 TechCrunch의 실험에서 확인할 수 있었습니다.

다른 AI 챗봇과의 비교

한편, OpenAI의 ChatGPT나 Meta AI 챗봇은 AP 통신 및 로이터 통신 등의 공식 소스를 인용하여 보다 정확하게 선거 결과에 대해 응답했습니다. 이들은 유효한 투표가 진행 중인 동안 올바른 정보를 제공하여, TechCrunch의 테스트에서 오류를 줄였습니다.

과거의 사례와 향후 조치 필요성

Grok의 허위 정보 유포 이력은 이번이 처음이 아닙니다. 올해 초에는 카말라 해리스 부통령의 대선 후보 자격 문제와 관련해 잘못된 정보를 제공하여 논란이 된 바 있습니다. 이러한 사례들은 AI 챗봇이 제공하는 정보의 정확성에 대한 지속적인 검토와 개선이 필요함을 시사합니다.

출처 : It’s Election Day, and all the AIs — but one — are acting responsibly