Новый генератор изображений Chatgpt действительно хорош в фальсификации квитанций
В этом месяце ChatGPT представил новый генератор изображений с моделью 4o, и он довольно неплохо справляется с добавлением текста на изображения. Люди уже используют его для создания поддельных ресторанных чеков, добавляя ещё один инструмент в арсенал AI-дипфейков, которые так любят мошенники.
Диди Дас, известная личность в социальных сетях и мире венчурного капитала, поделился в X снимком поддельного чека из настоящего стейкхауса в Сан-Франциско, утверждая, что создал его с помощью 4o.
Вы можете использовать 4o для создания поддельных чеков.
Слишком много процессов проверки в реальном мире полагаются на «настоящие изображения» как доказательство. Эта эра закончилась. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 29 марта 2025
Другие подхватили эту идею, создавая свои подделки, некоторые даже добавляли пятна от еды или напитков, чтобы они выглядели более правдоподобно:
Я думаю, в оригинальном изображении буквы слишком идеальны и не сгибаются вместе с бумагой. Они выглядят так, будто парят над бумагой. Вот моя попытка сделать это более реалистичным. Дайте знать, что думаете. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 29 марта 2025
Самый убедительный поддельный чек, который мы нашли в TechCrunch, был из Франции, где пользователь LinkedIn опубликовал скомканный чек, сгенерированный AI, из местной сети ресторанов:
Мы в TechCrunch попробовали 4o и смогли создать поддельный чек для Applebee’s в Сан-Франциско:

Источник изображения: chagpt / charles rollet Но в нашей попытке было несколько явных признаков подделки. Во-первых, в общей сумме использовалась запятая вместо точки, и расчёты были неверными. LLM всё ещё плохо справляются с базовой математикой, так что это не слишком удивительно.Тем не менее, мошеннику не составит труда подправить несколько цифр с помощью фоторедактора или, возможно, более точных запросов.
Очевидно, что упрощение создания поддельных чеков открывает целый мир возможностей для мошенничества. Не сложно представить, как злоумышленники используют эту технологию, чтобы получить «возмещение» за полностью выдуманные расходы.
Тая Кристиансон, представитель OpenAI, сообщила TechCrunch, что все изображения, созданные ChatGPT, содержат метаданные, указывающие на их создание с помощью AI. Кристиансон также упомянула, что OpenAI «принимает меры» против пользователей, нарушающих её правила использования, и что они «всегда учатся» на основе реального использования и отзывов.
Когда мы спросили, почему ChatGPT вообще позволяет создавать поддельные чеки и соответствует ли это правилам использования OpenAI (которые запрещают мошенничество), Кристиансон ответила, что цель OpenAI — «дать пользователям как можно больше творческой свободы». Она отметила, что поддельные чеки, созданные AI, могут использоваться в нем мошеннических целях, например, для «обучения людей финансовой грамотности», а также для создания оригинального искусства и рекламы продуктов.
Связанная статья
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Tiffany Luck из NEA: Компании по-прежнему борются с вопросами окупаемости инвестиций в ИИ
Загрузка плеера…Ранее в этом году «токеномаксимизация» доминировала в Кремниевой долине, когда генеральные директора призывали сотрудников максимально использовать возможности искусственного интеллекта. Однако этот энтузиазм быстро столкнулся с реал
Рекомендации по связанным специальным темам
Комментарии (17)
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
В этом месяце ChatGPT представил новый генератор изображений с моделью 4o, и он довольно неплохо справляется с добавлением текста на изображения. Люди уже используют его для создания поддельных ресторанных чеков, добавляя ещё один инструмент в арсенал AI-дипфейков, которые так любят мошенники.
Диди Дас, известная личность в социальных сетях и мире венчурного капитала, поделился в X снимком поддельного чека из настоящего стейкхауса в Сан-Франциско, утверждая, что создал его с помощью 4o.
Вы можете использовать 4o для создания поддельных чеков.
Слишком много процессов проверки в реальном мире полагаются на «настоящие изображения» как доказательство. Эта эра закончилась. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 29 марта 2025
Другие подхватили эту идею, создавая свои подделки, некоторые даже добавляли пятна от еды или напитков, чтобы они выглядели более правдоподобно:
Я думаю, в оригинальном изображении буквы слишком идеальны и не сгибаются вместе с бумагой. Они выглядят так, будто парят над бумагой. Вот моя попытка сделать это более реалистичным. Дайте знать, что думаете. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 29 марта 2025
Самый убедительный поддельный чек, который мы нашли в TechCrunch, был из Франции, где пользователь LinkedIn опубликовал скомканный чек, сгенерированный AI, из местной сети ресторанов:
Мы в TechCrunch попробовали 4o и смогли создать поддельный чек для Applebee’s в Сан-Франциско:

Тем не менее, мошеннику не составит труда подправить несколько цифр с помощью фоторедактора или, возможно, более точных запросов.
Очевидно, что упрощение создания поддельных чеков открывает целый мир возможностей для мошенничества. Не сложно представить, как злоумышленники используют эту технологию, чтобы получить «возмещение» за полностью выдуманные расходы.
Тая Кристиансон, представитель OpenAI, сообщила TechCrunch, что все изображения, созданные ChatGPT, содержат метаданные, указывающие на их создание с помощью AI. Кристиансон также упомянула, что OpenAI «принимает меры» против пользователей, нарушающих её правила использования, и что они «всегда учатся» на основе реального использования и отзывов.
Когда мы спросили, почему ChatGPT вообще позволяет создавать поддельные чеки и соответствует ли это правилам использования OpenAI (которые запрещают мошенничество), Кристиансон ответила, что цель OpenAI — «дать пользователям как можно больше творческой свободы». Она отметила, что поддельные чеки, созданные AI, могут использоваться в нем мошеннических целях, например, для «обучения людей финансовой грамотности», а также для создания оригинального искусства и рекламы продуктов.
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Tiffany Luck из NEA: Компании по-прежнему борются с вопросами окупаемости инвестиций в ИИ
Загрузка плеера…Ранее в этом году «токеномаксимизация» доминировала в Кремниевой долине, когда генеральные директора призывали сотрудников максимально использовать возможности искусственного интеллекта. Однако этот энтузиазм быстро столкнулся с реал
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!





Дом






