AI 시대, 딥페이크 방지 스타트업의 등장

딥페이크와 잘못된 증거의 문제를 해결하기 위해 등장한 새로운 스타트업이 최근 테크크런치 디스럽트 2024 스타트업 전시무대에서 주목받고 있다. 이 스타트업 ForceField는 콘텐츠 인증을 위한 MARQ라는 API 세트를 개발 중이다.

온라인 콘텐츠, 2026년까지 90% AI 생성 예상

유럽 법 집행 기관인 Europol은 2022년 보고서에서 2026년까지 온라인 콘텐츠의 90%가 AI에 의해 생성될 것이라고 예측했다. 이미 인터넷에는 기계가 생성했거나 AI를 활용해 변형된 콘텐츠가 넘쳐나고 있으며, 이는 Google과 같은 대형 기술 기업들이 문제 해결을 위한 새로운 도구 개발을 추진하게 만들었다.

대형 기술 기업의 대응

Google은 최근 검색 엔진에서 AI로 생성된 이미지를 표시할 계획을 발표했으며, Meta는 이미 Facebook과 Instagram에서 이러한 작업을 진행하고 있다. YouTube 역시 사용자가 얼굴이나 음성을 모방한 콘텐츠의 제거를 요청할 수 있도록 허용하고 있다.

다양한 스타트업의 등장

'가짜' 콘텐츠의 문제는 계속되고 있으며, 이를 해결하기 위한 다양한 스타트업들의 등장도 이어지고 있다. Ex. Clarity, Reality Defender, Truepic 등이 이에 해당하며, 최근 몇 년간 유명 투자자로부터 상당한 자금을 모은 바 있다.

ForceField의 차별점: 장치 레벨에서의 검증

ForceField는 콘텐츠 자체가 아닌 장치 레벨에서 문제를 해결하기 위해 노력하고 있다. 이는 ForceField의 기술이 통합된 모든 장치에서 데이터를 실시간으로 '서명하고 해시'하여 검증할 수 있음을 의미한다. 예를 들어, 모바일 앱, 감시 카메라 시스템, 드론의 하드웨어와 같은 장치에 이 기술이 적용될 수 있다.

출처 : ForceField helps detect deepfakes and digital deception by verifying source data