Chatgpt의 새로운 이미지 생성기
이달, ChatGPT는 4o 모델로 새로운 이미지 생성기를 출시했으며, 이는 이미지에 텍스트를 넣는 데 매우 뛰어납니다. 사람들은 이미 이를 이용해 가짜 레스토랑 영수증을 만들어내고 있으며, 사기꾼들이 애용하는 AI 딥페이크의 또 다른 기술을 추가하고 있습니다.
소셜 미디어와 VC 업계에서 유명한 Deedy Das는 샌프란시스코의 실제 스테이크하우스에서 나온 가짜 영수증 사진을 X에 공유하며, 이를 4o로 만들었다고 주장했습니다.
4o를 사용해 가짜 영수증을 생성할 수 있습니다.
“실제 이미지”를 증거로 의존하는 실세계 검증 절차가 너무 많습니다. 그 시대는 끝났습니다. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025년 3월 29일
다른 사람들도 이 흐름에 동참해 자신만의 가짜 영수증을 만들었고, 일부는 음식이나 음료 얼룩을 추가해 더 사실적으로 보이게 했습니다:
원본 이미지에서는 글자가 너무 완벽해서 종이에 따라 휘어지지 않습니다. 종이 위에 떠 있는 것처럼 보입니다. 더 사실적으로 만들어본 제 시도입니다. 어떻게 생각하는지 알려주세요. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025년 3월 29일
TechCrunch에서 찾은 가장 설득력 있는 가짜 영수증은 프랑스에서 왔으며, LinkedIn 사용자가 현지 레스토랑 체인에서 나온 AI 생성 구겨진 영수증을 게시했습니다:
TechCrunch에서 4o를 시도해본 결과, 샌프란시스코의 Applebee’s에서 나온 가짜 영수증을 만들어냈습니다:

이미지 제공: chagpt / charles rollet 하지만, 우리의 시도에는 가짜임을 드러내는 몇 가지 단서가 있었습니다. 우선, 총액에 마침표 대신 쉼표가 사용되었고, 계산이 맞지 않았습니다. LLM은 여전히 기본적인 계산에 어려움을 겪으니, 이는 그리 놀라운 일이 아닙니다.그래도 사기꾼이 사진 편집 소프트웨어나 더 구체적인 프롬프트를 사용해 몇 가지 숫자를 수정하는 데는 큰 노력이 필요하지 않을 것입니다.
가짜 영수증을 매우 쉽게 생성할 수 있게 되면서 사기의 가능성이 전 세계적으로 열리고 있음이 분명합니다. 악의적인 행위자들이 이 기술을 사용해 완전히 허구의 비용에 대해 “환급”을 받는 모습을 상상하기 어렵지 않습니다.
OpenAI의 대변인 Taya Christianson은 TechCrunch에 ChatGPT로 만든 모든 이미지는 AI에 의해 생성되었음을 보여주는 메타데이터가 포함된다고 밝혔습니다. Christianson은 또한 OpenAI가 사용 정책을 위반하는 사용자에 대해 “조치를 취한다”며, 실세계 사용과 피드백을 통해 “항상 배우고 있다”고 언급했습니다.
ChatGPT가 애초에 가짜 영수증을 만들도록 허용하는 이유와 이것이 OpenAI의 사용 정책(사기를 금지)에 괜찮은지에 대해 물었을 때, Christianson은 OpenAI의 “목표는 사용자에게 가능한 한 많은 창의적 자유를 제공하는 것”이라고 말했습니다. 그녀는 가짜 AI 영수증이 “금융 문맹 퇴치 교육” 같은 비사기 목적이나 독창적인 예술 작품 및 제품 광고 제작에 사용될 수 있다고 지적했습니다.
관련 기사
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
NEA의 티파니 럭: 기업들은 여전히 AI ROI와 씨름하고 있다
플레이어 로딩 중…올초 실리콘밸리에서는 ‘토큰 극대화(tokenmaxxing)’가 주요 화두였으며, 최고경영자들은 직원들에게 AI 활용을 극대화할 것을 독려했습니다. 그러나 이러한 열정은 곧 현실과 부딪혔습니다. 우버(Uber)는 보고에 따라 수개월 만에 연간 AI 예산을 초과했으며, 일부 기업은 부서 전반에 걸쳐 Claude 구독을 축소했고, 메타(Meta)는 내부 성과 평가 제도를 중단했습니다.NEA의 파트너 티파니 럭(Tiffany L
관련 특별 주제 추천
의견 (17)
0/500
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
이달, ChatGPT는 4o 모델로 새로운 이미지 생성기를 출시했으며, 이는 이미지에 텍스트를 넣는 데 매우 뛰어납니다. 사람들은 이미 이를 이용해 가짜 레스토랑 영수증을 만들어내고 있으며, 사기꾼들이 애용하는 AI 딥페이크의 또 다른 기술을 추가하고 있습니다.
소셜 미디어와 VC 업계에서 유명한 Deedy Das는 샌프란시스코의 실제 스테이크하우스에서 나온 가짜 영수증 사진을 X에 공유하며, 이를 4o로 만들었다고 주장했습니다.
4o를 사용해 가짜 영수증을 생성할 수 있습니다.
“실제 이미지”를 증거로 의존하는 실세계 검증 절차가 너무 많습니다. 그 시대는 끝났습니다. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025년 3월 29일
다른 사람들도 이 흐름에 동참해 자신만의 가짜 영수증을 만들었고, 일부는 음식이나 음료 얼룩을 추가해 더 사실적으로 보이게 했습니다:
원본 이미지에서는 글자가 너무 완벽해서 종이에 따라 휘어지지 않습니다. 종이 위에 떠 있는 것처럼 보입니다. 더 사실적으로 만들어본 제 시도입니다. 어떻게 생각하는지 알려주세요. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025년 3월 29일
TechCrunch에서 찾은 가장 설득력 있는 가짜 영수증은 프랑스에서 왔으며, LinkedIn 사용자가 현지 레스토랑 체인에서 나온 AI 생성 구겨진 영수증을 게시했습니다:
TechCrunch에서 4o를 시도해본 결과, 샌프란시스코의 Applebee’s에서 나온 가짜 영수증을 만들어냈습니다:

그래도 사기꾼이 사진 편집 소프트웨어나 더 구체적인 프롬프트를 사용해 몇 가지 숫자를 수정하는 데는 큰 노력이 필요하지 않을 것입니다.
가짜 영수증을 매우 쉽게 생성할 수 있게 되면서 사기의 가능성이 전 세계적으로 열리고 있음이 분명합니다. 악의적인 행위자들이 이 기술을 사용해 완전히 허구의 비용에 대해 “환급”을 받는 모습을 상상하기 어렵지 않습니다.
OpenAI의 대변인 Taya Christianson은 TechCrunch에 ChatGPT로 만든 모든 이미지는 AI에 의해 생성되었음을 보여주는 메타데이터가 포함된다고 밝혔습니다. Christianson은 또한 OpenAI가 사용 정책을 위반하는 사용자에 대해 “조치를 취한다”며, 실세계 사용과 피드백을 통해 “항상 배우고 있다”고 언급했습니다.
ChatGPT가 애초에 가짜 영수증을 만들도록 허용하는 이유와 이것이 OpenAI의 사용 정책(사기를 금지)에 괜찮은지에 대해 물었을 때, Christianson은 OpenAI의 “목표는 사용자에게 가능한 한 많은 창의적 자유를 제공하는 것”이라고 말했습니다. 그녀는 가짜 AI 영수증이 “금융 문맹 퇴치 교육” 같은 비사기 목적이나 독창적인 예술 작품 및 제품 광고 제작에 사용될 수 있다고 지적했습니다.
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
NEA의 티파니 럭: 기업들은 여전히 AI ROI와 씨름하고 있다
플레이어 로딩 중…올초 실리콘밸리에서는 ‘토큰 극대화(tokenmaxxing)’가 주요 화두였으며, 최고경영자들은 직원들에게 AI 활용을 극대화할 것을 독려했습니다. 그러나 이러한 열정은 곧 현실과 부딪혔습니다. 우버(Uber)는 보고에 따라 수개월 만에 연간 AI 예산을 초과했으며, 일부 기업은 부서 전반에 걸쳐 Claude 구독을 축소했고, 메타(Meta)는 내부 성과 평가 제도를 중단했습니다.NEA의 파트너 티파니 럭(Tiffany L
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!





집






