AI 기반 성대모사 도구, 허위 정보 확산 우려

AI 기술을 이용해 쉽게 생성된 허위 정보가 문제로 떠오르고 있다. 한 기자는 일례로 카마라 해리스 부통령의 음성 합성을 생성하는 데 불과 2분과 $5가 소요됐다고 밝혔다. 카르테시아(Cartesia)의 음성 변환 도구를 이용해 실험한 결과, 해리스의 최근 연설을 바탕으로 음성 '복제'가 가능했던 것이다. 이런 도구들은 쉽게 누군가의 음성을 복제하거나 변조할 수 있는 상황을 만들고 있다.

AI 합성음성의 윤리적 한계 지적

카르테시아는 음성 복제 기능을 사용하기 위해 사용자에게 악의적이지 않은 용도로만 사용하겠다는 동의를 요청하지만, 이것만으로는 충분하지 않다. 많은 전문가들은 AI로 생성된 콘텐츠를 쉽게 식별할 수 있도록 보이지 않는 워터마크를 도입할 것을 제안하고 있다. 영국의 ‘온라인 안전법’ 같은 콘텐츠 규제 법률도 허위 정보의 확산을 막는 데 도움이 될 수 있다고 주장한다.

디지털 허위 정보, 계속 증가 추세

세계경제포럼에 따르면, AI 생성 딥페이크의 양은 2019년에서 2020년 사이에 900% 증가했다. 하지만 이를 규제하는 법은 아직 충분하지 않으며, 탐지 기술 또한 끊임없는 경쟁 상태이다. 일각에서는 이러한 상황에서 우리가 할 수 있는 최선은 온라인 콘텐츠를 회의적으로 받아들이는 것이라고 주장한다. 특히 바이럴 콘텐츠에 대한 경계를 가지고, 무분별하게 공유하기 전에 그 진위를 확인하는 것이 중요하다.

출처 : This Week in AI: It’s shockingly easy to make a Kamala Harris deepfake