Chatgpt的新圖像生成器真的很擅長偽造收據
本月,ChatGPT 推出其 4o 模型的新圖像生成器,擅長將文字融入圖像。人們已開始用它製作假餐廳收據,為詐騙者喜愛的 AI 深度偽造伎倆再添一招。
社交媒體及創投界知名人士 Deedy Das,在 X 上分享了一張來自真實舊金山牛排館的假收據快照,聲稱是用 4o 製作的。
你可以用 4o 生成假收據。
許多現實世界的驗證流程依賴“真實圖像”作為證明。那個時代已經結束。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
其他人也加入這股潮流,製作自己的假收據,有些甚至添加食物或飲料污漬,讓它看起來更真實:
我認為原始圖像中的字母太完美,沒有隨紙張彎曲,看起來像是懸浮在紙面上。這是我試圖讓它更真實的嘗試。請告訴我你的看法。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
TechCrunch 發現的最具說服力的假收據來自法國,一位 LinkedIn 用戶發佈了一張當地連鎖餐廳的 AI 生成皺收據:
我們在 TechCrunch 試用了 4o,成功為舊金山的 Applebee’s 製作了一張假收據:

圖像來源:chagpt / charles rollet 但我們的嘗試有幾個明顯的破綻。首先,總額使用了逗號而非句號,且計算有誤。大型語言模型(LLMs)仍難以處理基本數學,這並不令人震驚。即便如此,詐騙者只需用照片編輯軟件或更具體的提示調整幾個數字即可輕鬆完善。
顯而易見,讓生成假收據變得極其簡單,開啟了詐騙的無限可能。不難想像不法分子利用這項技術,報銷完全虛構的費用。
OpenAI 發言人 Taya Christianson 告訴 TechCrunch,所有由 ChatGPT 製作的圖像都帶有顯示其由 AI 生成的元數據。Christianson 還提到,OpenAI 會對違反使用政策的用戶“採取行動”,並從現實世界的應用和反饋中“持續學習”。
當我們問及為何 ChatGPT 允許製作假收據,以及這是否符合 OpenAI 的使用政策(禁止詐騙),Christianson 表示,OpenAI 的“目標是給予用戶盡可能多的創作自由”。她指出,假 AI 收據可用於非詐騙目的,如“教導人們金融素養”以及創作原創藝術和產品廣告。
相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
相關專題推薦
評論 (17)
0/500
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
本月,ChatGPT 推出其 4o 模型的新圖像生成器,擅長將文字融入圖像。人們已開始用它製作假餐廳收據,為詐騙者喜愛的 AI 深度偽造伎倆再添一招。
社交媒體及創投界知名人士 Deedy Das,在 X 上分享了一張來自真實舊金山牛排館的假收據快照,聲稱是用 4o 製作的。
你可以用 4o 生成假收據。
許多現實世界的驗證流程依賴“真實圖像”作為證明。那個時代已經結束。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
其他人也加入這股潮流,製作自己的假收據,有些甚至添加食物或飲料污漬,讓它看起來更真實:
我認為原始圖像中的字母太完美,沒有隨紙張彎曲,看起來像是懸浮在紙面上。這是我試圖讓它更真實的嘗試。請告訴我你的看法。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
TechCrunch 發現的最具說服力的假收據來自法國,一位 LinkedIn 用戶發佈了一張當地連鎖餐廳的 AI 生成皺收據:
我們在 TechCrunch 試用了 4o,成功為舊金山的 Applebee’s 製作了一張假收據:

即便如此,詐騙者只需用照片編輯軟件或更具體的提示調整幾個數字即可輕鬆完善。
顯而易見,讓生成假收據變得極其簡單,開啟了詐騙的無限可能。不難想像不法分子利用這項技術,報銷完全虛構的費用。
OpenAI 發言人 Taya Christianson 告訴 TechCrunch,所有由 ChatGPT 製作的圖像都帶有顯示其由 AI 生成的元數據。Christianson 還提到,OpenAI 會對違反使用政策的用戶“採取行動”,並從現實世界的應用和反饋中“持續學習”。
當我們問及為何 ChatGPT 允許製作假收據,以及這是否符合 OpenAI 的使用政策(禁止詐騙),Christianson 表示,OpenAI 的“目標是給予用戶盡可能多的創作自由”。她指出,假 AI 收據可用於非詐騙目的,如“教導人們金融素養”以及創作原創藝術和產品廣告。
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!





首頁






