메타, 생성 AI의 선거 개입 영향 미미 확인

올해 초, 생성형 AI가 글로벌 선거에 불리하게 사용되어 선전과 허위 정보를 퍼뜨릴 수 있다는 우려가 광범위하게 퍼졌습니다. 그러나 연말에 메타는 이러한 우려가 적어도 자사의 플랫폼에서는 현실화되지 않았다고 주장했습니다. 메타는 페이스북, 인스타그램, 그리고 스레즈에서 이 기술이 제한적인 영향을 미쳤다고 밝혔습니다. 이 회사는 미국, 방글라데시, 인도네시아, 인도, 파키스탄, EU의회, 프랑스, 영국, 남아프리카공화국, 멕시코, 브라질의 주요 선거 관련 콘텐츠를 기반으로 이러한 결론을 도출했습니다.

"AI가 이러한 방식으로 사용되었다는 확정 혹은 의심되는 사례가 있었으나, 그 양은 적었고 우리의 기존 정책과 절차는 생성형 AI 콘텐츠와 관련된 위험을 줄이는 데 충분했습니다,"라고 메타는 밝혔습니다. "위에 나열된 주요 선거 기간 동안, 선거, 정치, 사회적 주제와 관련된 AI 콘텐츠의 비율은 전체 팩트체크된 허위 정보의 1% 미만을 차지했습니다."

또한, 메타는 대선이 다가오는 시기에 대통령 당선인 트럼프, 부통령 당선인 밴스, 부통령 해리스, 주지사 월즈, 대통령 바이든의 영상을 생성하려는 59만 건의 요청을 거부했다고 밝혔습니다. 이는 기술 남용을 통한 딥페이크 방지를 위한 조치였습니다.

메타는 또한 선전이나 거짓 정보를 퍼뜨리려는 계정 네트워크가 생성형 AI를 사용해도 생산성이나 콘텐츠 생성에 큰 진전을 이루지 못했다고 밝혔습니다. AI 사용이 이러한 비밀 영향력 캠페인을 저지하는 능력에 방해가 되지 않았다고 말했습니다. 메타는 행동을 중심으로 계정들을 분석하며 콘텐츠 자체에 초점을 두지 않았다고 설명했습니다.

기술 대기업인 메타는 또한 외국의 개입을 막기 위해 전 세계적으로 약 20개의 새로운 비밀 영향력 작전을 차단했다고 밝혔습니다. 많은 네트워크가 실제 청중을 가지고 있지 않으며, 일부는 인기를 높이기 위해 가짜 '좋아요' 및 팔로워를 사용했다고 메타는 덧붙였습니다.

메타는 다른 플랫폼들을 지적하며 러시아 기반의 영향력 작전과 연결된 미국 선거 관련 허위 비디오들이 X와 텔레그램에 자주 게시되었다고 강조했습니다. “우리는 올해의 교훈을 바탕으로 정책을 지속적으로 검토하고 앞으로 몇 달 동안 변화를 발표할 것입니다”라고 메타의 입장이 전해졌습니다.

출처 : Meta says AI content made up less than 1% of election-related misinformation on its apps