Chatgpt의 새로운 이미지 생성기

이달, ChatGPT는 4o 모델로 새로운 이미지 생성기를 출시했으며, 이는 이미지에 텍스트를 넣는 데 매우 뛰어납니다. 사람들은 이미 이를 이용해 가짜 레스토랑 영수증을 만들어내고 있으며, 사기꾼들이 애용하는 AI 딥페이크의 또 다른 기술을 추가하고 있습니다.

소셜 미디어와 VC 업계에서 유명한 Deedy Das는 샌프란시스코의 실제 스테이크하우스에서 나온 가짜 영수증 사진을 X에 공유하며, 이를 4o로 만들었다고 주장했습니다.

4o를 사용해 가짜 영수증을 생성할 수 있습니다.

“실제 이미지”를 증거로 의존하는 실세계 검증 절차가 너무 많습니다. 그 시대는 끝났습니다. pic.twitter.com/9FORS1PWsb

— Deedy (@deedydas) 2025년 3월 29일

다른 사람들도 이 흐름에 동참해 자신만의 가짜 영수증을 만들었고, 일부는 음식이나 음료 얼룩을 추가해 더 사실적으로 보이게 했습니다:

원본 이미지에서는 글자가 너무 완벽해서 종이에 따라 휘어지지 않습니다. 종이 위에 떠 있는 것처럼 보입니다. 더 사실적으로 만들어본 제 시도입니다. 어떻게 생각하는지 알려주세요. pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) 2025년 3월 29일

TechCrunch에서 찾은 가장 설득력 있는 가짜 영수증은 프랑스에서 왔으며, LinkedIn 사용자가 현지 레스토랑 체인에서 나온 AI 생성 구겨진 영수증을 게시했습니다:

TechCrunch에서 4o를 시도해본 결과, 샌프란시스코의 Applebee’s에서 나온 가짜 영수증을 만들어냈습니다:

그래도 사기꾼이 사진 편집 소프트웨어나 더 구체적인 프롬프트를 사용해 몇 가지 숫자를 수정하는 데는 큰 노력이 필요하지 않을 것입니다.

가짜 영수증을 매우 쉽게 생성할 수 있게 되면서 사기의 가능성이 전 세계적으로 열리고 있음이 분명합니다. 악의적인 행위자들이 이 기술을 사용해 완전히 허구의 비용에 대해 “환급”을 받는 모습을 상상하기 어렵지 않습니다.

OpenAI의 대변인 Taya Christianson은 TechCrunch에 ChatGPT로 만든 모든 이미지는 AI에 의해 생성되었음을 보여주는 메타데이터가 포함된다고 밝혔습니다. Christianson은 또한 OpenAI가 사용 정책을 위반하는 사용자에 대해 “조치를 취한다”며, 실세계 사용과 피드백을 통해 “항상 배우고 있다”고 언급했습니다.

ChatGPT가 애초에 가짜 영수증을 만들도록 허용하는 이유와 이것이 OpenAI의 사용 정책(사기를 금지)에 괜찮은지에 대해 물었을 때, Christianson은 OpenAI의 “목표는 사용자에게 가능한 한 많은 창의적 자유를 제공하는 것”이라고 말했습니다. 그녀는 가짜 AI 영수증이 “금융 문맹 퇴치 교육” 같은 비사기 목적이나 독창적인 예술 작품 및 제품 광고 제작에 사용될 수 있다고 지적했습니다.