인공지능 기술 악용 증가…경찰 대응 빨라져야

인공지능(AI)의 급속한 발전이 범죄 기회를 제공하고 있으며, 사이버 범죄자들이 이를 활용하여 새로운 방식으로 피해자를 공격하고 있다는 경고가 나왔다. 경찰청의 인공지능 책임자인 알렉스 머레이는 AI 기술의 접근성이 증가함에 따라 이를 활용한 범죄가 빠르게 증가하고 있으며, 경찰이 이러한 위협을 따라잡기 위해 '빠르게 움직여야 한다'고 강조했다.

AI, 경제 범죄 및 아동학대 이미지 생성에 악용

최근 AI를 이용한 범죄 중 하나는 회사 임원을 사칭해 대규모 금액을 송금하게 만드는 '딥페이크' 사기다. 머레이는 "AI를 활용한 범죄는 고비용 저빈도로 발생하지만, 이미 여러 사례가 보고되고 있다"고 말했다. 예를 들어, 올해 한 다국적 기업의 직원이 CEO를 사칭한 범죄자들에게 약 200억 홍콩 달러를 송금하는 사기를 당했다. 이 외에도 아동학대 이미지를 생성하는 AI 사용이 가장 많으며, 이는 법적으로 금지된 것이다. 지난해에는 AI를 이용해 아동학대 이미지를 제작하는 서비스를 제공한 한 남성이 18년 형을 선고받았다.

해킹 및 사이버 테러에도 AI 악용 우려

해커들은 목표물의 코드나 소프트웨어의 약점을 찾기 위해 AI를 사용하고 있으며, 이와 더불어 AI 챗봇을 통해 테러리즘을 조장하는 사례도 보고되고 있다. 한 사례로, 엘리자베스 2세 여왕을 공격하려던 한 남성이 AI 챗봇에서 조언을 받았다는 사실이 밝혀졌다. 테러 관련 법률 검토자는 AI의 잠재적 테러리즘 활용에 대한 연구를 진행하며, "AI를 통한 급진화의 위협이 커지고 있다"고 경고했다.

효율적인 대응 필요성 강조

머레이는 "AI 기술은 더욱 정교해지고 있으며, 범죄 악용 사례는 앞으로 더욱 증가할 것"이라며 경찰의 빠른 대응을 강조했다. AI를 통한 범죄의 증가 추세를 예측하며, 이러한 문제를 해결하기 위한 예방 조치가 필요하다고 전했다. "우리는 AI 기술의 사용이 증가함에 따라 발생할 수 있는 모든 범죄 유형에 대한 대비가 필요하다"고 덧붙였다.

출처 : AI increasingly used for sextortion, scams and child abuse, says senior UK police chief