AI 생성 아동 성학대 콘텐츠 증가

최근 인공지능(AI) 도구로 생성된 아동 성학대 이미지가 일반 웹에서 더욱 확산되는 것으로 나타났다. Internet Watch Foundation(IWF)에 따르면, 이러한 AI 생성 불법 콘텐츠는 이제 "중요한 전환점"에 도달했다고 한다. IWF는 지난 6개월 동안 발견된 불법 콘텐츠의 양이 이전 연도의 총량을 초과했다고 전했다.

일반 웹에서 발견되는 불법 콘텐츠

IWF는 영국을 비롯해 전 세계적으로 활동하는 단체로, 거의 모든 AI 생성 콘텐츠가 일반 웹에서 발견되었으며 다크웹에서는 많이 발견되지 않았다고 밝혔다. IWF의 임시 최고경영자인 데릭 레이-힐은 이러한 이미지가 실제 피해자의 이미지와 영상을 대상으로 훈련된 AI 도구로 생성된 것임을 지적했다. 그는 "최근 몇 달간 문제는 사라지지 않고 오히려 악화되고 있다"고 말했다.

실제 아동 피해 식별 어려움

IWF 분석가는 AI로 생성된 콘텐츠 상황이 일부 안전 감독기관과 당국이 실제 아동이 필요한 지원을 받아야 하는지 알기 어려운 지점에 이르고 있다고 경고했다. 올해 9월까지 6개월 동안 IWF는 74건의 AI 생성 아동 성학대 자료의 신고를 접수했고 이는 법을 위반할 만큼 사실적이었다.

러시아와 미국에서 대부분 호스팅

지난 6개월 동안 IWF가 경고한 AI 생성 콘텐츠의 절반 이상이 러시아와 미국 서버에 호스팅되고 있다고 한다. 일본과 네덜란드도 상당량을 차지했다.

인스타그램, 섹스토션 대응 조치 도입

한편, 인스타그램은 사용자들이 범죄자로부터 성적인 이미지를 보내도록 속임수에 빠지는 "섹스토션" 문제에 대응하기 위해 새로운 조치를 발표했다. 인스타그램은 사용자가 직접 메시지를 통해 받은 나체 이미지를 흐리게 할 수 있는 기능을 도입할 계획이며 이 기능은 청소년 계정에는 기본적으로 활성화될 예정이다. 성인은 선택적으로 이 기능을 사용할 수 있다.

출처 : AI-generated child sexual abuse imagery reaching ‘tipping point’, says watchdog