이미지 생성기 영수증 위조 우려 확산

ChatGPT 이미지 생성 기술, 사기 도구 악용 우려 커져

AI로 만든 '가짜 영수증', 현실 구분 어렵게 만들어

OpenAI의 최신 인공지능 모델인 ChatGPT-4o가 이미지 생성 능력을 크게 향상시키면서, 이미지 내부에 포함된 텍스트 표현도 훨씬 더 정교해졌습니다. 이러한 기술 발전이 긍정적인 용도 외에도 사기 목적으로 악용될 수 있다는 지적이 나오고 있습니다.

X(전 트위터)에 게시된 '가짜 스테이크하우스 영수증'

벤처 캐피털리스트 디디 다스(Deedy Das)는 최근 자신의 X(전 트위터) 계정에 ChatGPT-4o로 만들어진 가짜 식당 영수증 이미지를 게시했습니다. 이미지에는 샌프란시스코의 한 스테이크하우스에서 나온 정교한 결제 내역이 담겨 있었으며, 겉보기에는 실제 영수증과 거의 구별이 어려웠습니다.

다스는 이와 같은 이미지가 온라인 거래, 환불 요청, 비용 정산 등의 과정에서 ‘증빙자료’로 쉽게 악용될 수 있는 가능성을 지적했습니다. 실제로 이러한 거래들에서는 이미지 하나만으로도 신뢰가 형성되기 때문에, 향상된 텍스트 생성 기능이 사기 수단으로 사용될 수 있습니다.

AI의 산수 능력 한계… 하지만 손쉬운 조작 가능

기술 전문 매체인 테크크런치(TechCrunch)는 ChatGPT-4o를 활용해 자체적으로 애플비(Applebee's)의 가짜 영수증을 생성해보는 실험을 진행했습니다. 영수증에는 계산 오류가 포함되어 있었지만, 일부 수치만 손으로 수정하면 매우 그럴듯한 형태의 사기성 자료가 완성될 수 있었던 것으로 나타났습니다.

이는 AI 언어모델이 여전히 정확한 수학 계산 능력에는 한계를 갖고 있지만, 사용자 개입을 통해 충분히 보완 가능하다는 현실을 보여줍니다.

OpenAI “가짜 이미지에는 메타데이터 삽입”

OpenAI 대변인 타야 크리스티안슨은 모든 AI 생성 이미지에는 ChatGPT로 생성되었다는 정보를 담고 있는 메타데이터가 포함된다고 밝혔습니다. 또한 사용자들이 OpenAI의 이용 정책을 위반할 경우, 이에 대한 제재 조치가 취해질 것이라고 강조했습니다.

크리스티안슨은 가짜 영수증에 대한 직접적인 통제보다는, 사용자에게 창작의 자유를 제공하는 것이 OpenAI의 일관된 입장이라고 설명했습니다. 동시에 이러한 이미지는 사기가 아닌 금융 교육 등 긍정적인 목적으로도 활용될 수 있다고 덧붙였습니다.

기자의 시각

기술은 언제나 양날의 검이라는 점을 다시금 보여주는 사례입니다. AI가 텍스트까지 자연스럽게 이미지 안에 표현할 수 있게 되면서, 창작과 교육 등 창의적인 분야에서는 분명 진보를 만들 수 있지만, 반대로 사기와 조작의 도구로 남용될 가능성도 큽니다.

특히 소비자나 기업들이 이미지 중심의 인증 방식만으로 진위를 판단하는 경우, 그 허점을 노리는 수법은 더 정교해질 것입니다. 기술 발전뿐만 아니라, 이를 활용하는 사람들의 책임과 제어 시스템 마련이 함께 이루어져야 할 시점입니다.