AI 챗봇 악용한 사이버 스토킹, 유죄 인정 예정

미국 매사추세츠에서 한 남성이, 인공지능(AI) 챗봇을 이용해 7년에 걸쳐 대학 교수를 스토킹한 혐의로 유죄를 인정하기로 했다.

챗봇 이용해 교수 행세, 피해자 집으로 유도

36세의 제임스 플로렌스는 CrushOn.ai 및 JanitorAI 같은 플랫폼을 활용해 챗봇을 설계하고, 이를 통해 피해자의 개인정보 및 직업적 정보를 사용하여 성적으로 암시적인 대화를 유도했다. 더욱이 그는 챗봇을 통해 낯선 사람들이 피해자의 집을 방문하도록 유도하는 메시지를 보내게 했다.

매사추세츠 연방 법원에 제기된 이번 사건은 AI 챗봇이 스토킹 범죄에 활용된 사례 중 첫 번째 기소 사례 중 하나로 기록됐다. 피해 여성은 예상치 못한 방문자들이 집을 찾는 등 위협을 느꼈으며, 결국 남편과 함께 감시 카메라를 설치하고 개인 안전 장비를 휴대할 수밖에 없었다.

온라인 계정 사칭과 사진 조작까지

플로렌스는 단순히 챗봇 활용에 그치지 않고, 피해자를 사칭한 가짜 소셜미디어 계정을 만들거나, 개인 정보가 담긴 변조된 사진을 온라인에 유포하기도 했다. 피해자는 대학 교수 외에도 여성 6명과 미성년자 1명을 포함하며, 이들 역시 온라인에서 괴롭힘을 당한 것으로 밝혀졌다.

AI 악용한 범죄 증가, 새로운 위협으로 부상

아동 보호 단체 ‘Thorn’의 보고서에 따르면, AI를 활용한 성적 괴롭힘 및 착취 사례가 증가하고 있는 것으로 나타났다. 인공지능 기술이 발전할수록 가해자들이 더욱 쉽게 대상을 물색하고 공격하는 방식으로 악용할 수 있어 우려가 커지고 있다.

기자 관점

AI 챗봇이 범죄에 사용된 이번 사건은 디지털 기술의 어두운 면을 보여주는 사례다. 챗봇을 통해 피해자의 신뢰를 떨어뜨리고, 현실 세계에서 물리적인 위협까지 가할 수 있다는 점에서 AI 기술 남용에 대한 경각심이 필요하다. 앞으로 기술 발전과 더불어 이러한 악용 사례를 예방하기 위한 법적, 윤리적 고민이 더욱 요구될 것이다.