AI 도구를 악용한 10대 학생 충격적 사건
뉴사우스웨일스 남서부 시드니의 한 고등학교에서 한 남학생이 AI 플랫폼을 사용해 음란물을 제작한 혐의로 경찰에 신고되었다. 이 학생은 여학생들의 이미지를 딥페이크 기술로 조작하여 부적절한 사진을 만들어, 이를 가짜 소셜 미디어 계정을 통해 배포한 것으로 알려졌다.
경찰과 당국, 사건 조사에 착수
뉴사우스웨일스 경찰은 1월 6일, 온라인에서 부적절한 사진이 제작·유포되었다는 신고를 받고 즉시 조사에 착수했다. 경찰은 eSafety 커미셔너와 교육부와 협력하며 피해 학생들을 보호하고 문제 해결에 나서고 있다. 뉴사우스웨일스 교육부 대변인은 이러한 행위를 용납하지 않으며, 피해 학생들의 안전과 복지가 최우선이라고 강조했다.
"괴로운 사건, 강력한 조치 필요"
뉴사우스웨일스 교육부 장관은 이번 사건을 "끔찍한 사고"로 표현하며, 해당 학생에 대한 징계 조치가 시행될 것임을 확인했다. 또한, 이 사건은 공식적으로 eSafety 커미셔너에게도 전달된 상태다. 관계자들은 사건의 영향으로 피해를 입은 학생들의 신상을 보호하기 위해 가해 학생과 해당 학교의 이름을 비공개로 하고 있다.
개인 의견
딥페이크 기술의 남용은 단순히 기술적 장난을 넘어 심각한 윤리적, 법적 문제를 초래한다. 이러한 사례는 기술의 양면성을 보여주며, 학생 및 대중을 대상으로 한 디지털 윤리 교육의 중요성을 다시금 일깨운다. 이를 방지하기 위해 기술 사용에 대한 가이드라인 마련과 지속적인 감시가 필요하다. 피해자 지원도 반드시 동반되어야 할 것이다.