AI 모델 이미지 무단 사용 논란

AI 활용으로 제작된 정치적 딥페이크 비디오

런던에 본사를 둔 Synthesia의 기술이 권위주의 정권을 위한 딥페이크 비디오 제작에 활용되었습니다. 서아프리카 부르키나파소의 군부 지도자 지원 영상에서 미국식 억양으로 말하는 깔끔한 복장의 젊은 남성이 등장하며, 이는 2023년 초 텔레그램을 통해 확산되었습니다. 얼마 후 다른 인물들로 구성된 유사한 영상을 통해 동일한 메시지가 부르키나파소 국기 앞에서 전달되었고, 모두 AI로 생성된 가짜 영상이었습니다.

딥페이크 기술, 헛된 딜레마 야기

용도로는 마케팅 자료나 내부 프레젠테이션을 위해 설계된 Synthesia의 AI 기술은 딥페이크 제작이 사용 약관 위반임에도 불구하고, 이 기술이 달리 사용되었습니다. 특히, 이런 허위 영상에 등장한 디지털 ‘퍼핏’의 모델들은 피해를 입고 있습니다. 영국 런던에 있는 창의적 디렉터인 마크 토레스는 자신이 등장한 가짜 영상 소식을 듣고 충격에 빠졌습니다.

토레스는 "나의 이미지를 그런 방식으로 보이게 하고 싶지 않다"며, "내 이미지를 통해 내가 모르던 나라에서 군사 정권을 지원하는 메시지가 전달되는 것에 대해 혐오감을 느낄 수밖에 없다"고 전했습니다. 그는 이러한 형태로 자신의 이미지가 왜곡되는 사실에 깊은 불안감을 토로했습니다.

출처 : ‘It’s not me, it’s just my face’: the models who found their likenesses had been used in AI propaganda