인공지능 음성 복제, 민주주의 위협하나

인공지능(AI) 기술로 생성된 음성이 정치적 선동에 사용되면서 심각한 사회적 경고음을 울리고 있습니다.

내 목소리를 빼앗은 인공지능, 소름 돋는 경험

한 영국 학생의 목소리가 무단으로 복제돼 극우 메시지를 전달하는 데 사용된 사례가 화제가 되고 있습니다. 저자는 자신의 음성이 담긴 깊이 조작(Deepfake) 콘텐츠를 처음 들었을 때 충격을 받았다고 말합니다.

그녀의 오빠는 한 인스타그램 동영상을 보여주었습니다. 영상 속 여학생의 목소리는 “영국 교육 시스템의 위기를 상징한다”며 특정 종교에 대한 내용이 강제적으로 학교에서 가르쳐지고 있다는 메시지를 전달했습니다. 분명 그녀의 목소리 같았지만, 영상 속 발언 내용은 전혀 사실이 아니었습니다.

음성 복제 사기로 인한 피해 확산

AI가 복제한 음성은 단순한 장난을 넘어 금융 사기와 정보 왜곡에까지 악용되고 있습니다. 피해자들은 은행 보안 절차를 무력화 당하거나 익명의 사람들에게 돈을 보내는 피해를 입고 있습니다. 저자 역시 본인의 음성이 디지털 콘텐츠에 등장하면서 이 기술의 파괴적 결과를 직면했다고 말합니다.

특히 그녀는 자신의 음성을 사용한 극우 유튜브 채널이 20만 명의 구독자를 보유하고 있다는 사실을 발견했습니다. 단일 영상 조회수가 1,000만 회를 기록한 경우도 있었습니다. 전문가들은 이런 조작 음성의 어색한 발음 패턴을 통해 AI 음성 복제의 흔적을 발견할 수 있다고 지적했습니다.

빠르게 진화하는 기술, 위기의 신뢰

AI 기술의 발전은 정치적 신뢰를 해치는 데 기여하고 있다는 우려가 큽니다. 실제로 2023년 11월, 런던 시장 사디크 칸이 군인 추모일에 대해 선동적 발언을 했다는 조작된 음성이 퍼지며 혼란을 불러일으킨 바 있습니다. 조사에 따르면, 영국인의 58%가 정치인들의 말을 거의 믿지 않는다고 응답했습니다.

AI 음성 복제의 법적 규제는 여전히 모호합니다. 일부 AI 기술 스타트업은 정치적 인물 복제를 탐지하는 정책을 도입했지만, 이런 노력이 충분하지 않다는 평가를 받고 있습니다. 미국에서는 음성을 무단으로 복제 및 사용하는 행위를 금지하는 법안이 발의되었으며, 유럽 역시 심층 변조 탐지를 위한 시스템 개발에 노력 중입니다.

향후 활용 가능성과 필수적 규제

AI 음성 복제가 불러올 잠재적 이익도 존재합니다. 예를 들어, 이 기술은 의료적 한계로 인해 음성을 잃은 사람이나 고인을 기억하고자 하는 이들에게 위안을 제공할 수 있는 도구가 될 수 있습니다. 그러나 기술 남용의 부작용이 더 큰 상황에서 규제와 안전 장치 마련이 절실합니다.

저자는 자신의 경험을 통해 음성을 잃는다는 의미가 얼마나 개인적인 고통으로 이어질 수 있는지 알게 되었다고 말하며, 기술의 윤리적 사용 방안 마련이 시급하다고 강조했습니다.

의견

AI 음성 복제 기술의 발전은 인간의 상호 신뢰에 새로운 위기를 초래할 가능성이 큽니다. 기술 발전은 긍정적인 측면도 있지만, 적절한 규제가 없다면 피해 사례가 계속 확산될 것입니다. AI 기술은 혁신적일 수 있지만, 기술의 윤리적 사용과 투명성을 보장해야 하는 시대적 과제가 함께 따릅니다.