TechCrunch Disrupt 2024에서 인공지능의 디지털 허위 정보와의 전쟁 논의

TechCrunch Disrupt 2024의 AI 무대는 디지털 허위 정보 문제를 다루는 패널 토론으로 시작되었다. 이 논의에서는 세 명의 패널리스트가 소셜 미디어와 생성 AI에 대해 날카로운 비판을 내놓았다. 이 중에서도 가장 강한 비판을 한 사람은 디지털 증오 대처 센터의 CEO, 이므란 아흐메드였다.

아흐메드는 "정치에서는 항상 거짓말이 존재했고, 많은 정치인들이 거짓말을 정치를 하는 도구로 사용해왔다. 현재는 그 규모가 다른 차원으로 커졌으며, 이를 정치에서의 일반적인 거짓말과 핵전쟁에 비유할 수 있다"고 경고했다. 이어 그는 "생성 AI로 인해 허위 정보 한 조각을 생산하는데 드는 한계 비용이 0으로 줄어들었으며, 유통 비용도 그러하다. 이론적으로 무한 루프 시스템이 만들어졌으며, 이는 생성 AI가 생성, 유통, 평가를 계속 반복하게 한다. 이는 매우 걱정스러운 상황이다"고 덧붙였다.

자율 규제의 한계와 소셜 미디어의 책임 강조

UC 버클리의 CITRIS 정책 연구소장, 브랜디 논넥은 자율 규제로 제안된 투명성 보고서는 충분치 않다고 주장했다. 그녀는 "이런 투명성 보고서가 실제로 무엇을 하는지 모르겠다. 보고서에서는 수많은 유해 콘텐츠를 제거했다고 말하지만, 무엇을 놓쳤는지는 밝히지 않는다. 결국 실질적인 조치를 취하고 있다는 잘못된 인식을 준다"고 지적했다.

Facebook 감독 이사회의 공동 의장인 파멜라 산 마틴도 이 의견에 동의하면서도 주의할 필요가 있다고 말했다. 그녀는 "어떠한 소셜 미디어 플랫폼도 필요한 모든 조치를 하고 있다고 말할 수는 없다"며 "AI와 선거에 대한 우려가 있었지만, 아직은 AI 생성 콘텐츠가 선거를 완전히 장악하지는 않았다"고 덧붙였다. 마틴은 "두려움에 기반한 조치를 취하다 보면 AI의 좋은 점을 잃을 수 있다"는 점도 언급했다.

출처 : Clashing approaches to combat AI’s ‘perpetual bulls**t machine’