2024년 선거에 AI 허위 정보 우려 증가

AI를 활용한 허위 정보가 2024년 선거에 영향을 미칠 것이라는 우려가 많았지만, 예측보다는 적은 수준이었습니다. 그러나 이는 단순히 모습을 드러내지 않았을 뿐 실제적인 위협입니다. AI 연구자이자 비영리 단체 TrueMedia의 오렌 에트지노니는 더 많은 허위 정보가 존재하며, 이것의 대부분은 대중의 시야 밖에 있다고 강조합니다.

다양한 형태의 디지털 허위 정보의 위협

딥페이크는 유명인사나 정치인보다 실체 확인이 어려운 상황 및 사람들을 대상으로 더욱 위험합니다. 예를 들어, 이란 항공기가 이스라엘 상공에 떠 있는 가짜 영상은 현장에서 직접 검증할 수 없는 누군가에게는 사실로 여겨질 수 있습니다. 이는 특정 WhatsApp 그룹 또는 텔레그램 채널을 통해 전파되곤 합니다.

TrueMedia의 허위 정보 식별 노력

TrueMedia는 허위 정보 식별을 위해 무료로 이미지, 비디오, 오디오 분석 서비스를 제공합니다. 이 작업은 자동화가 어려우며 지속적인 진실 기반 자료 구축이 필요합니다.

에트지노니는 디지털 허위 정보의 양과 이를 본 사람들, 그리고 그 영향력을 파악하는 것이 현재 과제로 남아있다고 설명합니다. 예를 들어, 개발자들은 허위 정보가 실제로 무엇을 초래했는지를 측정하기 어렵다고 인정합니다.

앞으로의 대응 방향과 기술적 시도

향후 4년간 이러한 문제를 측정하는 데 더 능숙해질 것으로 전망합니다. 이미지는 워터마크를 통해 쉽게 식별할 수 있지만, 진정한 문제 해결에는 미치지 못합니다. 악의적인 사용자들은 이러한 기술적 보호를 피하고자 하며, 이로 인해 기술적 시도만으로는 충분한 보호가 어렵다는 평가입니다.

결국, 최근 역사상 가장 중요한 선거가 AI 기반 허위 정보의 큰 방해 없이 치러진 것은 측면에서는 다행입니다. 이는 생성된 허위 정보가 일반적이지 않아서가 아니라, 배포자들이 그럴 필요성을 느끼지 않았기 때문입니다. 이로 인해 이 문제의 중대성을 인식하고 철저한 대비가 필요함을 시사합니다.

출처 : Generative disinfo is real — you’re just not the target, warns deepfake tracking nonprofit