ChatGptの新しい画像ジェネレーターは、領収書を偽造するのが本当に得意です

今月、ChatGPTは4oモデルで新しい画像生成機能を展開しました。この機能は画像にテキストを挿入するのに非常に優れており、かなり良い出来です。人々はすでにこれを使って偽のレストランのレシートを作成しており、詐欺師が好むAIディープフェイクのトリックの数々に新たな手口を追加しています。

ソーシャルメディアやVCの世界で有名なDeedy Dasは、Xでサンフランシスコの実際のステーキハウスからの偽レシートの画像を共有し、4oで作成したと主張しました。

4oを使って偽のレシートを生成できます。

「本物の画像」を証明として頼る現実世界の検証フローが多すぎます。その時代は終わりました。pic.twitter.com/9FORS1PWsb

— Deedy (@deedydas) 2025年3月29日

他の人々もこの流れに乗り、独自の偽物を作成しました。なかには、食べ物や飲み物の汚れを追加してより本物らしく見せる人もいました：

元の画像では文字が完璧すぎて、紙の曲がりに沿っていないように見えます。紙の上に浮いているように見えます。よりリアルにするための私の試みです。どう思うか教えてください。pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) 2025年3月29日

TechCrunchで見つけた最も説得力のある偽物はフランスからで、LinkedInユーザーが地元のレストランチェーンからのAI生成のくしゃくしゃのレシートを投稿しました：

TechCrunchでも4oを試し、サンフランシスコのApplebee’sの偽レシートを作成しました：

それでも、詐欺師がフォトエディットソフトやもっと具体的なプロンプトを使って数字を少し調整するのは難しくないでしょう。

偽のレシートを非常に簡単に生成できるようにすることは、詐欺の可能性を大きく広げることは明らかです。悪意のある者がこの技術を使って完全にでっち上げた経費の「払い戻し」を求めるのは想像に難くありません。

OpenAIの広報担当者Taya Christiansonは、TechCrunchに対し、ChatGPTで作成されたすべての画像にはAIによって作られたことを示すメタデータが含まれていると語りました。Christiansonはまた、OpenAIは使用ポリシーを破るユーザーに対して「措置を講じる」とし、「現実世界での使用やフィードバックから常に学んでいる」と述べました。

ChatGPTがそもそも偽のレシートを作成できるようにしている理由や、それがOpenAIの使用ポリシー（詐欺を禁止している）で許容されるかどうか尋ねたところ、ChristiansonはOpenAIの「目標はユーザーに可能な限り多くの創造的自由を与えること」と述べました。彼女は、偽のAIレシートが「金融リテラシーの教育」やオリジナルのアート、製品広告の作成など、詐欺以外の目的にも使用できると指摘しました。