Le nouveau générateur d'images de Chatgpt est vraiment doué pour simuler les reçus
Ce mois-ci, Chatgpt a déployé un nouveau générateur d'images avec son modèle 4O, et il est sacrément bon pour mettre du texte dans les images. Les gens l'utilisent déjà pour préparer de faux reçus de restaurants, ajoutant encore une autre astuce au sac d'Ai Deepfakes que les escrocs aiment utiliser.
Deedy Das, un grand nom sur les réseaux sociaux et dans le monde VC, a partagé un snap sur X d'un faux reçu d'un vrai steakhouse de San Francisco, affirmant qu'il avait fait avec 4O.
Vous pouvez utiliser 4O pour générer de faux reçus.
Il y a trop de flux de vérification du monde réel qui reposent sur les «images réelles» comme preuve. Cette époque est terminée. pic.twitter.com/9fors1pwsb
- Deedy (@Deedydas) 29 mars 2025
D'autres ont sauté dans le train en marche, créant leurs propres contrefaçons, certains ajoutant même de la nourriture ou des taches pour les rendre plus légitimes:
Je pense que dans l'image originale, les lettres sont trop parfaites et elles ne se penchent pas avec le papier. Ils ressemblent à planer au-dessus du papier. Voici ma tentative de le rendre plus réaliste. Faites-moi savoir ce que vous pensez. pic.twitter.com/eixrshubey
- Michael Gofman (@michaelgofman) 29 mars 2025
Les faux les plus convaincants que nous avons trouvés à TechCrunch sont venus de la France, où un utilisateur de LinkedIn a publié un reçu généré par AI-AI effréné d'une chaîne de restaurants locale:
Chez TechCrunch, nous avons fait un tourbillon à 4o et avons réussi à créer un faux reçu pour un Applebee à San Francisco:
Crédits d'image: Chagpt / Charles Roulet Mais, notre tentative avait quelques signes révélateurs que c'était un faux. Pour commencer, le total a utilisé une virgule au lieu d'une période, et les calculs étaient éteints. Les LLM ont encore des problèmes avec les mathématiques de base, donc ce n'est pas trop choquant.
Pourtant, il ne faudrait pas grand-chose à un escroc pour modifier quelques chiffres en utilisant un logiciel de retouche photo ou peut-être des invites plus spécifiques.
Il est assez clair que la facilitation de génération de faux reçus ouvre un monde entier de possibilités de fraude. Il n'est pas difficile d'imaginer de mauvais acteurs en utilisant cette technologie pour être "remboursé" pour les dépenses complètement inventées.
Taya Christianson, porte-parole d'Openai, a déclaré à TechCrunch que toutes les images faites par Chatgpt sont livrées avec des métadonnées montrant qu'elles avaient été créées par l'IA. Christianson a également mentionné qu'OpenAI "prend des mesures" contre les utilisateurs qui brisent ses politiques d'utilisation et qu'ils "apprennent toujours" de l'utilisation et des commentaires du monde réel.
Lorsque nous avons demandé pourquoi Chatgpt permet aux gens de faire de faux reçus en premier lieu, et si cela va bien sous les politiques d'utilisation d'Openai (qui interdisent la fraude), Christianson a déclaré que "l'objectif d'Openai était de donner aux utilisateurs autant de liberté de création que possible". Elle a souligné que les fausses reçus d'IA pouvaient être utilisées à des fins non trafiquantes comme «enseigner aux gens la littératie financière» ainsi que pour créer des publicités d'art et de produits originales.
Article connexe
OpenAI、Operator AgentのAIモデルを強化
OpenAIが「Operator」を次世代へ進化させるOpenAIは自律型AIエージェント「Operator」に大幅なアップグレードを実施。近い将来、Operatorは最先端の推論モデルシリーズ「oシリーズ」最新作の「o3」ベースのモデルを採用予定です。これまでOperatorはGPT-4oのカスタマイズ版で動作していましたが、今回の刷新で飛躍的な性能向上が
OpenAIのo3 AIモデル、当初示唆されていたよりもベンチマークで低いスコアを獲得
AIにおけるベンチマークの不一致がなぜ重要なのかAIにおいては、数字が物語を語ることが多いが、時にはその数字が正しくないこともある。例えばOpenAIのo3モデルの話だ。当初の主張は驚くべきものだった：o3は、特に難しいFrontierMath問題の約25％以上を処理できるというのだ。背景として、競合他社は低桁数に留まっていた。しかし、最近の進展を見ると、E
deepseek aiはchatgptに挑戦し、aiの未来を形作ります
Deepseek AIの台頭：AIのランドスケープアイトフィートインテリジェンスの新しい章は、絶え間ない流動状態にあり、新規参入者は毎日現状に挑戦しています。これらの中で、Deepseek AIは、特にApp StoreのダウンロードでChatGPTを上回った後、顕著な候補として登場しました。このmi
commentaires (15)
0/200
![ElijahWalker]()
ElijahWalker
10 avril 2025 16:13:19 UTC
ChatGPT's new image generator is wild! I used it to make a fake receipt for a fancy dinner and it looked so real, my friends were totally fooled. It's a bit scary how good it is at this, but also super fun to play around with. Just be careful, scammers might love this too!
0
![RalphMitchell]()
RalphMitchell
10 avril 2025 11:12:32 UTC
ChatGPTの新しい画像生成器はすごい！高級レストランの領収書を偽造してみたら、友達全員が騙されたほどリアルだった。これがこんなに上手くできるのはちょっと怖いけど、遊ぶのも楽しい。ただ、詐欺師もこれを気に入るかもしれないから注意が必要だね！
0
![DanielThomas]()
DanielThomas
11 avril 2025 04:44:40 UTC
ChatGPT의 새로운 이미지 생성기는 정말 대단해! 고급 레스토랑 영수증을 위조해봤는데, 친구들이 모두 속을 정도로 리얼했어. 이게 이렇게 잘 되는 건 좀 무섭지만, 놀아보는 건 정말 재미있어. 다만, 사기꾼들도 이걸 좋아할지 모르니 조심해야 해!
0
![BrianThomas]()
BrianThomas
12 avril 2025 08:55:16 UTC
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e parecia tão real que meus amigos foram totalmente enganados. É um pouco assustador o quão bom ele é nisso, mas também é super divertido brincar. Só tenha cuidado, os golpistas podem adorar isso também!
0
![WillMitchell]()
WillMitchell
10 avril 2025 21:46:34 UTC
¡El nuevo generador de imágenes de ChatGPT es una locura! Lo usé para hacer un recibo falso de una cena elegante y parecía tan real que mis amigos se dejaron engañar completamente. Es un poco aterrador lo bueno que es en esto, pero también es súper divertido jugar con él. Solo ten cuidado, a los estafadores también les puede encantar esto!
0
![LawrencePerez]()
LawrencePerez
11 avril 2025 00:04:52 UTC
ChatGPT's new image generator is wild! It's so good at faking receipts, it's scary. I tried it out and it's too easy to make convincing fakes. Scammers must be loving this. Be careful out there, folks!
0
Ce mois-ci, Chatgpt a déployé un nouveau générateur d'images avec son modèle 4O, et il est sacrément bon pour mettre du texte dans les images. Les gens l'utilisent déjà pour préparer de faux reçus de restaurants, ajoutant encore une autre astuce au sac d'Ai Deepfakes que les escrocs aiment utiliser.
Deedy Das, un grand nom sur les réseaux sociaux et dans le monde VC, a partagé un snap sur X d'un faux reçu d'un vrai steakhouse de San Francisco, affirmant qu'il avait fait avec 4O.
Vous pouvez utiliser 4O pour générer de faux reçus.
Il y a trop de flux de vérification du monde réel qui reposent sur les «images réelles» comme preuve. Cette époque est terminée. pic.twitter.com/9fors1pwsb
- Deedy (@Deedydas) 29 mars 2025
D'autres ont sauté dans le train en marche, créant leurs propres contrefaçons, certains ajoutant même de la nourriture ou des taches pour les rendre plus légitimes:
Je pense que dans l'image originale, les lettres sont trop parfaites et elles ne se penchent pas avec le papier. Ils ressemblent à planer au-dessus du papier. Voici ma tentative de le rendre plus réaliste. Faites-moi savoir ce que vous pensez. pic.twitter.com/eixrshubey
- Michael Gofman (@michaelgofman) 29 mars 2025
Les faux les plus convaincants que nous avons trouvés à TechCrunch sont venus de la France, où un utilisateur de LinkedIn a publié un reçu généré par AI-AI effréné d'une chaîne de restaurants locale:
Chez TechCrunch, nous avons fait un tourbillon à 4o et avons réussi à créer un faux reçu pour un Applebee à San Francisco:
Pourtant, il ne faudrait pas grand-chose à un escroc pour modifier quelques chiffres en utilisant un logiciel de retouche photo ou peut-être des invites plus spécifiques.
Il est assez clair que la facilitation de génération de faux reçus ouvre un monde entier de possibilités de fraude. Il n'est pas difficile d'imaginer de mauvais acteurs en utilisant cette technologie pour être "remboursé" pour les dépenses complètement inventées.
Taya Christianson, porte-parole d'Openai, a déclaré à TechCrunch que toutes les images faites par Chatgpt sont livrées avec des métadonnées montrant qu'elles avaient été créées par l'IA. Christianson a également mentionné qu'OpenAI "prend des mesures" contre les utilisateurs qui brisent ses politiques d'utilisation et qu'ils "apprennent toujours" de l'utilisation et des commentaires du monde réel.
Lorsque nous avons demandé pourquoi Chatgpt permet aux gens de faire de faux reçus en premier lieu, et si cela va bien sous les politiques d'utilisation d'Openai (qui interdisent la fraude), Christianson a déclaré que "l'objectif d'Openai était de donner aux utilisateurs autant de liberté de création que possible". Elle a souligné que les fausses reçus d'IA pouvaient être utilisées à des fins non trafiquantes comme «enseigner aux gens la littératie financière» ainsi que pour créer des publicités d'art et de produits originales.
OpenAI、Operator AgentのAIモデルを強化
OpenAIが「Operator」を次世代へ進化させるOpenAIは自律型AIエージェント「Operator」に大幅なアップグレードを実施。近い将来、Operatorは最先端の推論モデルシリーズ「oシリーズ」最新作の「o3」ベースのモデルを採用予定です。これまでOperatorはGPT-4oのカスタマイズ版で動作していましたが、今回の刷新で飛躍的な性能向上が
OpenAIのo3 AIモデル、当初示唆されていたよりもベンチマークで低いスコアを獲得
AIにおけるベンチマークの不一致がなぜ重要なのかAIにおいては、数字が物語を語ることが多いが、時にはその数字が正しくないこともある。例えばOpenAIのo3モデルの話だ。当初の主張は驚くべきものだった：o3は、特に難しいFrontierMath問題の約25％以上を処理できるというのだ。背景として、競合他社は低桁数に留まっていた。しかし、最近の進展を見ると、E
deepseek aiはchatgptに挑戦し、aiの未来を形作ります
Deepseek AIの台頭：AIのランドスケープアイトフィートインテリジェンスの新しい章は、絶え間ない流動状態にあり、新規参入者は毎日現状に挑戦しています。これらの中で、Deepseek AIは、特にApp StoreのダウンロードでChatGPTを上回った後、顕著な候補として登場しました。このmi
10 avril 2025 16:13:19 UTC
ChatGPT's new image generator is wild! I used it to make a fake receipt for a fancy dinner and it looked so real, my friends were totally fooled. It's a bit scary how good it is at this, but also super fun to play around with. Just be careful, scammers might love this too!
0
10 avril 2025 11:12:32 UTC
ChatGPTの新しい画像生成器はすごい！高級レストランの領収書を偽造してみたら、友達全員が騙されたほどリアルだった。これがこんなに上手くできるのはちょっと怖いけど、遊ぶのも楽しい。ただ、詐欺師もこれを気に入るかもしれないから注意が必要だね！
0
11 avril 2025 04:44:40 UTC
ChatGPT의 새로운 이미지 생성기는 정말 대단해! 고급 레스토랑 영수증을 위조해봤는데, 친구들이 모두 속을 정도로 리얼했어. 이게 이렇게 잘 되는 건 좀 무섭지만, 놀아보는 건 정말 재미있어. 다만, 사기꾼들도 이걸 좋아할지 모르니 조심해야 해!
0
12 avril 2025 08:55:16 UTC
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e parecia tão real que meus amigos foram totalmente enganados. É um pouco assustador o quão bom ele é nisso, mas também é super divertido brincar. Só tenha cuidado, os golpistas podem adorar isso também!
0
10 avril 2025 21:46:34 UTC
¡El nuevo generador de imágenes de ChatGPT es una locura! Lo usé para hacer un recibo falso de una cena elegante y parecía tan real que mis amigos se dejaron engañar completamente. Es un poco aterrador lo bueno que es en esto, pero también es súper divertido jugar con él. Solo ten cuidado, a los estafadores también les puede encantar esto!
0
11 avril 2025 00:04:52 UTC
ChatGPT's new image generator is wild! It's so good at faking receipts, it's scary. I tried it out and it's too easy to make convincing fakes. Scammers must be loving this. Be careful out there, folks!
0
