Le nouveau générateur d'images de Chatgpt est vraiment doué pour simuler les reçus
Ce mois-ci, ChatGPT a lancé un nouveau générateur d'images avec son modèle 4o, et il est sacrément doué pour intégrer du texte dans les images. Les gens l'utilisent déjà pour créer de faux reçus de restaurant, ajoutant un nouveau tour au répertoire des deepfakes d'IA que les escrocs adorent utiliser.
Deedy Das, une figure connue sur les réseaux sociaux et dans le monde du capital-risque, a partagé sur X une photo d'un faux reçu d'un vrai steakhouse de San Francisco, affirmant l'avoir créé avec 4o.
Vous pouvez utiliser 4o pour générer de faux reçus.
Il y a trop de processus de vérification dans le monde réel qui reposent sur des « images réelles » comme preuve. Cette époque est révolue. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 29 mars 2025
D'autres ont suivi le mouvement, créant leurs propres faux, certains ajoutant même des taches de nourriture ou de boisson pour les rendre plus crédibles :
Je pense que dans l'image originale, les lettres sont trop parfaites et ne suivent pas les plis du papier. Elles semblent flotter au-dessus du papier. Voici ma tentative pour la rendre plus réaliste. Dites-moi ce que vous en pensez. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 29 mars 2025
Le faux le plus convaincant que nous ayons trouvé chez TechCrunch venait de France, où un utilisateur de LinkedIn a publié un reçu froissé généré par IA d'une chaîne de restaurants locale :
Nous, chez TechCrunch, avons essayé 4o et réussi à créer un faux reçu pour un Applebee’s à San Francisco :
Crédits image : chagpt / charles rollet Mais notre tentative présentait quelques signes révélateurs de falsification. Pour commencer, le total utilisait une virgule au lieu d'un point, et le calcul était erroné. Les LLM ont encore du mal avec les mathématiques de base, donc ce n'est pas trop surprenant.Il ne faudrait pas grand-chose pour qu'un escroc ajuste quelques chiffres avec un logiciel de retouche photo ou des invites plus spécifiques.
Il est assez clair que faciliter la génération de faux reçus ouvre tout un monde de possibilités de fraude. Il n'est pas difficile d'imaginer des acteurs malveillants utilisant cette technologie pour se faire « rembourser » des dépenses totalement inventées.
Taya Christianson, porte-parole d'OpenAI, a déclaré à TechCrunch que toutes les images créées par ChatGPT contiennent des métadonnées indiquant qu'elles ont été générées par l'IA. Christianson a également mentionné qu'OpenAI « prend des mesures » contre les utilisateurs qui enfreignent ses politiques d'utilisation et qu'ils « apprennent toujours » des usages réels et des retours.
Lorsque nous avons demandé pourquoi ChatGPT permet de créer de faux reçus en premier lieu, et si cela est conforme aux politiques d'utilisation d'OpenAI (qui interdisent la fraude), Christianson a répondu que l'objectif d'OpenAI est de « donner aux utilisateurs autant de liberté créative que possible ». Elle a souligné que les faux reçus d'IA pourraient être utilisés à des fins non frauduleuses, comme « enseigner la littératie financière » ou créer des œuvres d'art originales et des publicités pour produits.
Article connexe
Ancien ingénieur d'OpenAI partage des idées sur la culture d'entreprise et la croissance rapide
Il y a trois semaines, Calvin French-Owen, un ingénieur qui a contribué à un produit clé d'OpenAI, a quitté l'entreprise.Il a récemment partagé un article de blog captivant détaillant son année chez O
Google dévoile les modèles AI Gemini 2.5 prêts pour la production pour rivaliser avec OpenAI sur le marché des entreprises
Google a intensifié sa stratégie AI lundi, lançant ses modèles avancés Gemini 2.5 pour une utilisation en entreprise et introduisant une variante économique pour concurrencer sur le prix et la perform
Meta Offre des Salaires Élevés pour les Talents en IA, Dément les Bonus de Signature de 100M$
Meta attire des chercheurs en IA vers son nouveau laboratoire de superintelligence avec des packages de rémunération de plusieurs millions de dollars. Cependant, les allégations de "bonus de signature
commentaires (15)
0/200
![NicholasYoung]()
NicholasYoung
14 avril 2025 14:26:48 UTC+02:00
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です！
0
![BillyAdams]()
BillyAdams
14 avril 2025 13:50:02 UTC+02:00
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
0
![StevenHill]()
StevenHill
14 avril 2025 06:28:13 UTC+02:00
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
0
![AnthonyHernández]()
AnthonyHernández
13 avril 2025 21:43:05 UTC+02:00
ChatGPT의 새로운 이미지 생성기는 정말 대단해요! 레시트 위조가 너무 잘돼서 무섭네요. 시도해봤는데, 설득력 있는 가짜를 만드는 게 너무 쉬워요. 사기꾼들이 이걸 좋아할 거예요. 조심하세요, 여러분!
0
![PaulRoberts]()
PaulRoberts
13 avril 2025 15:19:44 UTC+02:00
O novo gerador de imagens do ChatGPT é louco! É muito bom em falsificar recibos, é assustador. Eu testei e é muito fácil fazer falsificações convincentes. Os scammers devem estar adorando isso. Cuidado por aí, pessoal!
0
![JustinAnderson]()
JustinAnderson
13 avril 2025 12:37:28 UTC+02:00
El nuevo generador de imágenes de ChatGPT es una locura. Lo usé para crear un recibo falso de una cena elegante y parecía tan real que mis amigos lo creyeron. Es divertido pero también un poco aterrador lo fácil que es hacer falsificaciones convincentes. ¡Hay que tener cuidado!
0
Ce mois-ci, ChatGPT a lancé un nouveau générateur d'images avec son modèle 4o, et il est sacrément doué pour intégrer du texte dans les images. Les gens l'utilisent déjà pour créer de faux reçus de restaurant, ajoutant un nouveau tour au répertoire des deepfakes d'IA que les escrocs adorent utiliser.
Deedy Das, une figure connue sur les réseaux sociaux et dans le monde du capital-risque, a partagé sur X une photo d'un faux reçu d'un vrai steakhouse de San Francisco, affirmant l'avoir créé avec 4o.
Vous pouvez utiliser 4o pour générer de faux reçus.
Il y a trop de processus de vérification dans le monde réel qui reposent sur des « images réelles » comme preuve. Cette époque est révolue. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 29 mars 2025
D'autres ont suivi le mouvement, créant leurs propres faux, certains ajoutant même des taches de nourriture ou de boisson pour les rendre plus crédibles :
Je pense que dans l'image originale, les lettres sont trop parfaites et ne suivent pas les plis du papier. Elles semblent flotter au-dessus du papier. Voici ma tentative pour la rendre plus réaliste. Dites-moi ce que vous en pensez. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 29 mars 2025
Le faux le plus convaincant que nous ayons trouvé chez TechCrunch venait de France, où un utilisateur de LinkedIn a publié un reçu froissé généré par IA d'une chaîne de restaurants locale :
Nous, chez TechCrunch, avons essayé 4o et réussi à créer un faux reçu pour un Applebee’s à San Francisco :
Il ne faudrait pas grand-chose pour qu'un escroc ajuste quelques chiffres avec un logiciel de retouche photo ou des invites plus spécifiques.
Il est assez clair que faciliter la génération de faux reçus ouvre tout un monde de possibilités de fraude. Il n'est pas difficile d'imaginer des acteurs malveillants utilisant cette technologie pour se faire « rembourser » des dépenses totalement inventées.
Taya Christianson, porte-parole d'OpenAI, a déclaré à TechCrunch que toutes les images créées par ChatGPT contiennent des métadonnées indiquant qu'elles ont été générées par l'IA. Christianson a également mentionné qu'OpenAI « prend des mesures » contre les utilisateurs qui enfreignent ses politiques d'utilisation et qu'ils « apprennent toujours » des usages réels et des retours.
Lorsque nous avons demandé pourquoi ChatGPT permet de créer de faux reçus en premier lieu, et si cela est conforme aux politiques d'utilisation d'OpenAI (qui interdisent la fraude), Christianson a répondu que l'objectif d'OpenAI est de « donner aux utilisateurs autant de liberté créative que possible ». Elle a souligné que les faux reçus d'IA pourraient être utilisés à des fins non frauduleuses, comme « enseigner la littératie financière » ou créer des œuvres d'art originales et des publicités pour produits.
Ancien ingénieur d'OpenAI partage des idées sur la culture d'entreprise et la croissance rapide
Il y a trois semaines, Calvin French-Owen, un ingénieur qui a contribué à un produit clé d'OpenAI, a quitté l'entreprise.Il a récemment partagé un article de blog captivant détaillant son année chez O
Google dévoile les modèles AI Gemini 2.5 prêts pour la production pour rivaliser avec OpenAI sur le marché des entreprises
Google a intensifié sa stratégie AI lundi, lançant ses modèles avancés Gemini 2.5 pour une utilisation en entreprise et introduisant une variante économique pour concurrencer sur le prix et la perform
Meta Offre des Salaires Élevés pour les Talents en IA, Dément les Bonus de Signature de 100M$
Meta attire des chercheurs en IA vers son nouveau laboratoire de superintelligence avec des packages de rémunération de plusieurs millions de dollars. Cependant, les allégations de "bonus de signature
14 avril 2025 14:26:48 UTC+02:00
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です！
0
14 avril 2025 13:50:02 UTC+02:00
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
0
14 avril 2025 06:28:13 UTC+02:00
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
0
13 avril 2025 21:43:05 UTC+02:00
ChatGPT의 새로운 이미지 생성기는 정말 대단해요! 레시트 위조가 너무 잘돼서 무섭네요. 시도해봤는데, 설득력 있는 가짜를 만드는 게 너무 쉬워요. 사기꾼들이 이걸 좋아할 거예요. 조심하세요, 여러분!
0
13 avril 2025 15:19:44 UTC+02:00
O novo gerador de imagens do ChatGPT é louco! É muito bom em falsificar recibos, é assustador. Eu testei e é muito fácil fazer falsificações convincentes. Os scammers devem estar adorando isso. Cuidado por aí, pessoal!
0
13 avril 2025 12:37:28 UTC+02:00
El nuevo generador de imágenes de ChatGPT es una locura. Lo usé para crear un recibo falso de una cena elegante y parecía tan real que mis amigos lo creyeron. Es divertido pero también un poco aterrador lo fácil que es hacer falsificaciones convincentes. ¡Hay que tener cuidado!
0
