ChatGptの新しい画像ジェネレーターは、領収書を偽造するのが本当に得意です
今月、ChatGPTは4oモデルで新しい画像生成機能を展開しました。この機能は画像にテキストを挿入するのに非常に優れており、かなり良い出来です。人々はすでにこれを使って偽のレストランのレシートを作成しており、詐欺師が好むAIディープフェイクのトリックの数々に新たな手口を追加しています。
ソーシャルメディアやVCの世界で有名なDeedy Dasは、Xでサンフランシスコの実際のステーキハウスからの偽レシートの画像を共有し、4oで作成したと主張しました。
4oを使って偽のレシートを生成できます。
「本物の画像」を証明として頼る現実世界の検証フローが多すぎます。その時代は終わりました。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
他の人々もこの流れに乗り、独自の偽物を作成しました。なかには、食べ物や飲み物の汚れを追加してより本物らしく見せる人もいました:
元の画像では文字が完璧すぎて、紙の曲がりに沿っていないように見えます。紙の上に浮いているように見えます。よりリアルにするための私の試みです。どう思うか教えてください。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
TechCrunchで見つけた最も説得力のある偽物はフランスからで、LinkedInユーザーが地元のレストランチェーンからのAI生成のくしゃくしゃのレシートを投稿しました:
TechCrunchでも4oを試し、サンフランシスコのApplebee’sの偽レシートを作成しました:

画像クレジット:chagpt / charles rollet しかし、私たちの試みには偽物であることが分かるいくつかの兆候がありました。まず、合計金額にピリオドの代わりにカンマが使われており、計算も間違っていました。LLMは基本的な計算にまだ苦労しているので、これは驚くことではありません。それでも、詐欺師がフォトエディットソフトやもっと具体的なプロンプトを使って数字を少し調整するのは難しくないでしょう。
偽のレシートを非常に簡単に生成できるようにすることは、詐欺の可能性を大きく広げることは明らかです。悪意のある者がこの技術を使って完全にでっち上げた経費の「払い戻し」を求めるのは想像に難くありません。
OpenAIの広報担当者Taya Christiansonは、TechCrunchに対し、ChatGPTで作成されたすべての画像にはAIによって作られたことを示すメタデータが含まれていると語りました。Christiansonはまた、OpenAIは使用ポリシーを破るユーザーに対して「措置を講じる」とし、「現実世界での使用やフィードバックから常に学んでいる」と述べました。
ChatGPTがそもそも偽のレシートを作成できるようにしている理由や、それがOpenAIの使用ポリシー(詐欺を禁止している)で許容されるかどうか尋ねたところ、ChristiansonはOpenAIの「目標はユーザーに可能な限り多くの創造的自由を与えること」と述べました。彼女は、偽のAIレシートが「金融リテラシーの教育」やオリジナルのアート、製品広告の作成など、詐欺以外の目的にも使用できると指摘しました。
関連記事
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
NEAのティファニー・ラック:企業はまだAIのROIに苦戦している
プレイヤーを読み込み中…今年初頭、シリコンバレーでは「トークン最大化」が話題を独占し、CEOたちは社員にAIの使用を最大化するよう促した。しかし、その熱狂はすぐに現実とぶつかった。ウーバーは報告によると、数ヶ月で年間AI予算を超過し、一部の企業は部門全体でClaudeのライセンスを削減し、メタは社内パフォーマンスランキングを廃止した。NEAパートナーのティファニー・ラックは、この興奮と実際のリターンのギャップを日々乗り越えている。以前はECが未来であると企業を説得した経験を持つ彼女は、現在、
関連特集おすすめ
コメント (17)
0/500
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
今月、ChatGPTは4oモデルで新しい画像生成機能を展開しました。この機能は画像にテキストを挿入するのに非常に優れており、かなり良い出来です。人々はすでにこれを使って偽のレストランのレシートを作成しており、詐欺師が好むAIディープフェイクのトリックの数々に新たな手口を追加しています。
ソーシャルメディアやVCの世界で有名なDeedy Dasは、Xでサンフランシスコの実際のステーキハウスからの偽レシートの画像を共有し、4oで作成したと主張しました。
4oを使って偽のレシートを生成できます。
「本物の画像」を証明として頼る現実世界の検証フローが多すぎます。その時代は終わりました。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
他の人々もこの流れに乗り、独自の偽物を作成しました。なかには、食べ物や飲み物の汚れを追加してより本物らしく見せる人もいました:
元の画像では文字が完璧すぎて、紙の曲がりに沿っていないように見えます。紙の上に浮いているように見えます。よりリアルにするための私の試みです。どう思うか教えてください。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
TechCrunchで見つけた最も説得力のある偽物はフランスからで、LinkedInユーザーが地元のレストランチェーンからのAI生成のくしゃくしゃのレシートを投稿しました:
TechCrunchでも4oを試し、サンフランシスコのApplebee’sの偽レシートを作成しました:

それでも、詐欺師がフォトエディットソフトやもっと具体的なプロンプトを使って数字を少し調整するのは難しくないでしょう。
偽のレシートを非常に簡単に生成できるようにすることは、詐欺の可能性を大きく広げることは明らかです。悪意のある者がこの技術を使って完全にでっち上げた経費の「払い戻し」を求めるのは想像に難くありません。
OpenAIの広報担当者Taya Christiansonは、TechCrunchに対し、ChatGPTで作成されたすべての画像にはAIによって作られたことを示すメタデータが含まれていると語りました。Christiansonはまた、OpenAIは使用ポリシーを破るユーザーに対して「措置を講じる」とし、「現実世界での使用やフィードバックから常に学んでいる」と述べました。
ChatGPTがそもそも偽のレシートを作成できるようにしている理由や、それがOpenAIの使用ポリシー(詐欺を禁止している)で許容されるかどうか尋ねたところ、ChristiansonはOpenAIの「目標はユーザーに可能な限り多くの創造的自由を与えること」と述べました。彼女は、偽のAIレシートが「金融リテラシーの教育」やオリジナルのアート、製品広告の作成など、詐欺以外の目的にも使用できると指摘しました。
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
NEAのティファニー・ラック:企業はまだAIのROIに苦戦している
プレイヤーを読み込み中…今年初頭、シリコンバレーでは「トークン最大化」が話題を独占し、CEOたちは社員にAIの使用を最大化するよう促した。しかし、その熱狂はすぐに現実とぶつかった。ウーバーは報告によると、数ヶ月で年間AI予算を超過し、一部の企業は部門全体でClaudeのライセンスを削減し、メタは社内パフォーマンスランキングを廃止した。NEAパートナーのティファニー・ラックは、この興奮と実際のリターンのギャップを日々乗り越えている。以前はECが未来であると企業を説得した経験を持つ彼女は、現在、
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!





家






