Chatgpt的新图像生成器真的很擅长伪造收据
本月,ChatGPT 推出了其 4o 模型的新图像生成器,它在将文本融入图像方面表现得相当不错。人们已经开始用它来制作假的餐厅收据,为诈骗者喜爱的 AI 深度伪造伎俩又增添了一招。
Deedy Das,社交媒体和风险投资界的大人物,在 X 上分享了一张来自旧金山一家真实牛排餐厅的假收据照片,声称这是用 4o 制作的。
你可以用 4o 生成假收据。
太多现实世界的验证流程依赖“真实图像”作为证据。那個時代已經結束了。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
其他人也纷纷效仿,制作自己的假收据,有些甚至添加了食物或饮料污渍,让它们看起来更真实:
我觉得原图中的字母太完美了,它们没有随着纸张弯曲,看起来像是悬浮在纸面上。这是我的尝试,让它更逼真。告诉我你的想法。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
我们在 TechCrunch 找到的最令人信服的假收据来自法国,一位 LinkedIn 用户发布了一张当地餐厅连锁店的 AI 生成的皱巴巴收据:
我们在 TechCrunch 尝试了一下 4o,成功为旧金山的 Applebee’s 制作了一张假收据:

图片来源:chagpt / charles rollet 但是,我们的尝试有几个明显的破绽。首先,总额使用了逗号而不是句号,而且计算有误。大型语言模型(LLMs)在基本数学上仍有困难,所以这并不令人震惊。尽管如此,诈骗者只需使用照片编辑软件调整几个数字,或者使用更具体的提示,就能轻松解决问题。
显然,让生成假收据变得如此简单,为欺诈行为打开了一整个可能性世界。不难想象不良分子利用这项技术来为完全虚构的费用“报销”。
OpenAI 的发言人 Taya Christianson 告诉 TechCrunch,由 ChatGPT 生成的所有图像都带有显示其由 AI 创建的元数据。Christianson 还提到,OpenAI 对违反其使用政策的用户“采取行动”,并且他们“始终从现实世界的应用和反馈中学习”。
当我们询问为什么 ChatGPT 首先允许人们制作假收据,以及这是否符合 OpenAI 的使用政策(禁止欺诈)时,Christianson 表示,OpenAI 的“目标是尽可能给予用户创造自由”。她指出,假的 AI 收据可用于非欺诈目的,如“教授人们金融知识”以及创建原创艺术和产品广告。
相关文章
在青少年开始使用ChatGPT数年后,OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
NEA的蒂芙尼·拉克:企业仍在努力应对人工智能的投资回报率
正在加载播放器…今年早些时候,“token最大化”(tokenmaxxing)在硅谷占据主导地位,首席执行官们敦促员工最大限度地利用人工智能。然而,这种热情很快遭遇了现实。据报道,Uber在几个月内就超出了其年度人工智能预算,一些公司跨部门削减了Claude许可证,而Meta则取消了内部绩效排名。NEA合伙人蒂芙尼·拉克(Tiffany Luck)每天都在应对这种兴奋与实际回报之间的差距。她此前曾成功说服企业电子商务是未来,如今她完全专注于人工智能,特别是其为消费者创造“神奇时刻”的潜力。
相关专题推荐
评论 (17)
0/500
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
本月,ChatGPT 推出了其 4o 模型的新图像生成器,它在将文本融入图像方面表现得相当不错。人们已经开始用它来制作假的餐厅收据,为诈骗者喜爱的 AI 深度伪造伎俩又增添了一招。
Deedy Das,社交媒体和风险投资界的大人物,在 X 上分享了一张来自旧金山一家真实牛排餐厅的假收据照片,声称这是用 4o 制作的。
你可以用 4o 生成假收据。
太多现实世界的验证流程依赖“真实图像”作为证据。那個時代已經結束了。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
其他人也纷纷效仿,制作自己的假收据,有些甚至添加了食物或饮料污渍,让它们看起来更真实:
我觉得原图中的字母太完美了,它们没有随着纸张弯曲,看起来像是悬浮在纸面上。这是我的尝试,让它更逼真。告诉我你的想法。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
我们在 TechCrunch 找到的最令人信服的假收据来自法国,一位 LinkedIn 用户发布了一张当地餐厅连锁店的 AI 生成的皱巴巴收据:
我们在 TechCrunch 尝试了一下 4o,成功为旧金山的 Applebee’s 制作了一张假收据:

尽管如此,诈骗者只需使用照片编辑软件调整几个数字,或者使用更具体的提示,就能轻松解决问题。
显然,让生成假收据变得如此简单,为欺诈行为打开了一整个可能性世界。不难想象不良分子利用这项技术来为完全虚构的费用“报销”。
OpenAI 的发言人 Taya Christianson 告诉 TechCrunch,由 ChatGPT 生成的所有图像都带有显示其由 AI 创建的元数据。Christianson 还提到,OpenAI 对违反其使用政策的用户“采取行动”,并且他们“始终从现实世界的应用和反馈中学习”。
当我们询问为什么 ChatGPT 首先允许人们制作假收据,以及这是否符合 OpenAI 的使用政策(禁止欺诈)时,Christianson 表示,OpenAI 的“目标是尽可能给予用户创造自由”。她指出,假的 AI 收据可用于非欺诈目的,如“教授人们金融知识”以及创建原创艺术和产品广告。
在青少年开始使用ChatGPT数年后,OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
NEA的蒂芙尼·拉克:企业仍在努力应对人工智能的投资回报率
正在加载播放器…今年早些时候,“token最大化”(tokenmaxxing)在硅谷占据主导地位,首席执行官们敦促员工最大限度地利用人工智能。然而,这种热情很快遭遇了现实。据报道,Uber在几个月内就超出了其年度人工智能预算,一些公司跨部门削减了Claude许可证,而Meta则取消了内部绩效排名。NEA合伙人蒂芙尼·拉克(Tiffany Luck)每天都在应对这种兴奋与实际回报之间的差距。她此前曾成功说服企业电子商务是未来,如今她完全专注于人工智能,特别是其为消费者创造“神奇时刻”的潜力。
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!





首页






