유튜브, AI 생성 콘텐츠 관리 프로그램 확대

유튜브가 인공지능(AI)으로 생성된 콘텐츠 중 창작자, 아티스트, 유명 인사의 외모나 목소리를 모방한 경우를 식별하고 조치하기 위한 시범 프로그램을 확장한다고 발표했다. 특히 해당 기술은 타인을 오인하게 하거나 해로운 콘텐츠로 이어질 수 있는 가짜 영상을 방지하는 데 집중하고 있다.

NO FAKES 법안 지지…AI 기술 악용 방지 취지

유튜브는 'NO FAKES 법안(The No Artificial Intelligence Fake And Krypto Economic Suppression Act)'을 공식 지지한다고 밝혔다. 이 법안은 AI로 생성된 허위 인물 복제 문제를 방지하고, 피해를 입은 이들이 이를 신고하고 조치할 수 있도록 권한을 부여하는 것을 목표로 한다. 유튜브는 이 법안 마련을 위해 입법 관계자 및 업계 주요 파트너들과 긴밀히 협력해왔다.

콘텐츠 ID 기술 기반, AI 얼굴·음성 탐지

이번 프로그램은 기존 저작권 보호 시스템인 콘텐츠 ID(Content ID)를 기반으로, AI가 생성한 얼굴이나 음성을 자동 탐지할 수 있도록 설계되었다. 2024년 12월에 크리에이티브 아티스트 에이전시(Creative Artists Agency)와의 협업을 통해 초도 개발된 이 탐지 시스템은 현재 시범 단계에 있다.

유명 유튜버 참여…기술 정교화 기대

시범 프로그램에는 세계적인 유튜버 MrBeast, 과학 크리에이터 Mark Rober, 테크 전문가 Marques Brownlee 등이 참여하고 있으며, 이들의 콘텐츠를 통해 기술 신뢰도와 구분 능력을 시험하게 된다. 유튜브는 현재 결과를 바탕으로 향후 더 많은 크리에이터에게 기술을 확대 적용할 방침이다.

개인 모방 콘텐츠 삭제 요청 절차 정비

유튜브는 아울러 AI로 생성된 유사 인물 콘텐츠에 대한 삭제 요청 절차도 체계화했다. 개인이 자신의 모습 또는 목소리를 모방한 콘텐츠라 판단되면, 플랫폼을 통해 삭제 신청을 할 수 있는 절차를 정비함으로써 사생활 보호 지원을 강화했다.

개인 권리 보호와 기술 혁신의 균형

AI 기술이 콘텐츠 제작의 패러다임을 바꾸는 과정에서, 허위 정보와 악용 우려도 동시에 커지고 있다. 유튜브의 이번 조치는 기술 혁신을 가로막지 않으면서도 창작자와 일반인의 초상, 음성 등의 권리를 보호하려는 시도로 평가된다.

이 기사에 대한 의견:

유튜브가 AI로 생성된 콘텐츠에 대해 책임감을 가지고 적극적인 기술적 대응을 시도하는 것은 매우 고무적인 일이다. 특히 유명 인사의 외모나 목소리를 모방한 콘텐츠가 빠르게 확산될 potential을 생각할 때, 이러한 선제적 조치는 플랫폼 생태계의 신뢰를 지키는 데 중요한 역할을 할 것이다. 다만, 기술적 식별의 정확성 및 평범한 유저의 권리를 어떻게 균형 있게 보호할지가 앞으로의 핵심 과제가 될 것으로 보인다.