AI 도구로 생성된 콘텐츠, 즉 'AI 쓰레기'의 급속한 성장이 우리에게 현실과 허구의 경계를 흐릿하게 만들고 있습니다. 최근 발렌시아를 강타한 '비 폭탄'의 영향으로 좁은 거리의 사진이 주목을 받고 있습니다. 이 지역은 하루 만에 한 해 강우량만큼 비가 쏟아졌고, 일부 도시는 불과 8시간 만에 490리터가 넘는 비가 내렸습니다. 이러한 엄청난 비는 좁은 거리로 흘러들어 마치 장난감처럼 주차된 차들을 이리저리 밀어내었습니다.

이 사진은 사회관계망 서비스(SNS)에서 급속도로 퍼져나갔고, 많은 사람들은 "AI 이미지, 가짜 뉴스"라며 반응했습니다. 사진은 너무나도 선명하고 비현실적으로 보였기 때문에 마치 AI 생성 도구인 Midjourney나 Dall-E로 제작된 것처럼 보였습니다. 그러나 이 사진은 진짜였습니다. 작성자 Charles Arthur가 사진 속 모습을 검증하기 위해 여러 온라인 도구를 활용하면서 밝혀졌습니다. 그는 왜 사람들이 이 사진이 실제가 아니라고 생각했는지를 의문으로 남깁니다. 하지만 AI 생성 가짜 이미지의 홍수로 인해 사람들은 점점 더 진짜를 믿지 않게 되는 경향이 있습니다.

AI 생성 콘텐츠의 홍수와 SNS의 미래

소셜 미디어는 이른바 "AI 쓰레기"라 불리는 이미지와 텍스트로 무너지고 있습니다. 놀랍게도 이러한 콘텐츠의 증가에 소셜 미디어 기업들은 별로 개의치 않는 듯합니다. Meta의 CEO인 마크 저커버그는 AI가 사용자들을 더 오랫동안 플랫폼에 머물게 하여 수익을 창출할 수 있도록 돕는다는 이유로 긍정적으로 보았습니다.

소셜 미디어와 AI 콘텐츠의 긍정적 피드백 루프

이러한 AI 생성 콘텐츠는 창작자들에도 수익을 안겨줍니다. 빠르게 퍼져 나가는 이미지는 소셜 미디어의 참여도 증가를 촉진하여 플랫폼과 창작자 모두에게 유익한 순환 고리를 형성하고 있습니다. 그럼에도 불구하고 이러한 피드백 루프는 통제되지 않는 성장을 초래할 수 있으며, 소셜 미디어가 본질적으로 더 나빠질 수밖에 없는 상황을 초래할 수 있다는 점에서 문제가 있습니다. 이것이 Meta와 같은 플랫폼의 미래가 어두운 이유일 수 있습니다.

출처 : The images of Spain’s floods weren’t created by AI. The trouble is, people think they were