AI를 활용한 가짜 이미지의 정치적 이용 증가

유럽의 전문가들은 최근 인공지능을 이용한 가짜 이미지가 정치적 무기로 사용되고 있다고 경고하고 있습니다. 이 같은 현상은 특히 EU 선거 이후 급증했으며, 이민자 '침략'에 대한 두려움을 조장하는 가짜 이미지부터 시작해 다양한 혐오 캠페인이 확산되고 있는 것으로 나타났습니다.

극우파의 AI 이용 확대

유럽 전역의 극우 정당과 활동가들이 이러한 AI 기술을 정치적 도구로 활용하고 있으며, 이민 반대 및 특정 지도자들을 겨냥한 이미지가 소셜 미디어에서 확산되고 있습니다. 이러한 움직임은 최근 유럽 의회 선거를 기점으로 더욱 확대되었습니다.

소셜 미디어 플랫폼에 미치는 영향

특히 최근 메타의 독립 감시위원회는 페이스북의 반이민 콘텐츠에 대한 조사에 착수하였습니다. 이는 AI로 생성된 이미지에 반이민 메시지가 담긴 독일 계정의 포스트를 조사하는 과정입니다. 이는 소셜 미디어 내에서 증가하는 AI 생성 우익 콘텐츠의 일환입니다.

통합된 심미성과 윤리 문제

전문가들은 이러한 이미지들이 유럽 및 영국 전역의 여러 플랫폼에 공통된 디자인과 테마로 퍼지고 있다고 지적합니다. 대부분의 경우 극우 정당과 운동들은 AI 이미지에 워터마크나 식별자를 사용하지 않고 있어 문제를 더하고 있습니다.

AI 사용에 있어 보이지 않는 위협

AI 포렌식의 살바토레 로마노 연구 책임자는 "공식 경로 외부에서 발생하는 문제들이 더 위험하다"고 언급했습니다. 한편, 앵글리아 러스킨 대학의 윌리엄 알콘 연구원은 "AI는 콘텐츠 생성의 진입 장벽을 낮춰 극우파가 더 쉽게 이미지 콘텐츠를 생성할 수 있도록 한다"고 분석했습니다. 주류 정치인들은 AI의 윤리적 문제에 더 신중한 반면, 극우파는 이러한 제약에서 자유롭다고 지적했습니다.

출처 : How the far right is weaponising AI-generated content in Europe