Новый генератор изображений Chatgpt действительно хорош в фальсификации квитанций

В этом месяце ChatGPT представил новый генератор изображений с моделью 4o, и он довольно неплохо справляется с добавлением текста на изображения. Люди уже используют его для создания поддельных ресторанных чеков, добавляя ещё один инструмент в арсенал AI-дипфейков, которые так любят мошенники.

Диди Дас, известная личность в социальных сетях и мире венчурного капитала, поделился в X снимком поддельного чека из настоящего стейкхауса в Сан-Франциско, утверждая, что создал его с помощью 4o.

Вы можете использовать 4o для создания поддельных чеков.

Слишком много процессов проверки в реальном мире полагаются на «настоящие изображения» как доказательство. Эта эра закончилась. pic.twitter.com/9FORS1PWsb

— Deedy (@deedydas) 29 марта 2025

Другие подхватили эту идею, создавая свои подделки, некоторые даже добавляли пятна от еды или напитков, чтобы они выглядели более правдоподобно:

Я думаю, в оригинальном изображении буквы слишком идеальны и не сгибаются вместе с бумагой. Они выглядят так, будто парят над бумагой. Вот моя попытка сделать это более реалистичным. Дайте знать, что думаете. pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) 29 марта 2025

Самый убедительный поддельный чек, который мы нашли в TechCrunch, был из Франции, где пользователь LinkedIn опубликовал скомканный чек, сгенерированный AI, из местной сети ресторанов:

Мы в TechCrunch попробовали 4o и смогли создать поддельный чек для Applebee’s в Сан-Франциско:

Тем не менее, мошеннику не составит труда подправить несколько цифр с помощью фоторедактора или, возможно, более точных запросов.

Очевидно, что упрощение создания поддельных чеков открывает целый мир возможностей для мошенничества. Не сложно представить, как злоумышленники используют эту технологию, чтобы получить «возмещение» за полностью выдуманные расходы.

Тая Кристиансон, представитель OpenAI, сообщила TechCrunch, что все изображения, созданные ChatGPT, содержат метаданные, указывающие на их создание с помощью AI. Кристиансон также упомянула, что OpenAI «принимает меры» против пользователей, нарушающих её правила использования, и что они «всегда учатся» на основе реального использования и отзывов.

Когда мы спросили, почему ChatGPT вообще позволяет создавать поддельные чеки и соответствует ли это правилам использования OpenAI (которые запрещают мошенничество), Кристиансон ответила, что цель OpenAI — «дать пользователям как можно больше творческой свободы». Она отметила, что поддельные чеки, созданные AI, могут использоваться в нем мошеннических целях, например, для «обучения людей финансовой грамотности», а также для создания оригинального искусства и рекламы продуктов.