ChatGPT's new image generator is really good at faking receipts

Este mês, o ChatGPT lançou um novo gerador de imagens com seu modelo 4o, e ele é muito bom em inserir texto em imagens. As pessoas já estão usando isso para criar recibos de restaurantes falsos, adicionando mais um truque ao arsenal de deepfakes de IA que os golpistas adoram usar.

Deedy Das, um grande nome nas redes sociais e no mundo do capital de risco, compartilhou no X uma imagem de um recibo falso de uma churrascaria real de São Francisco, afirmando que o criou com o 4o.

Você pode usar o 4o para gerar recibos falsos.

Há muitos fluxos de verificação no mundo real que dependem de “imagens reais” como prova. Essa era acabou. pic.twitter.com/9FORS1PWsb

— Deedy (@deedydas) 29 de março de 2025

Outros seguiram o exemplo, criando seus próprios recibos falsos, alguns até adicionando manchas de comida ou bebida para parecerem mais autênticos:

Acho que na imagem original as letras são muito perfeitas e não se dobram com o papel. Elas parecem flutuar acima do papel. Aqui está minha tentativa de torná-lo mais realista. Diga-me o que achou. pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) 29 de março de 2025

O falso mais convincente que encontramos na TechCrunch veio da França, onde um usuário do LinkedIn postou um recibo gerado por IA amassado de uma rede de restaurantes local:

Nós da TechCrunch testamos o 4o e conseguimos criar um recibo falso para um Applebee’s em São Francisco:

Ainda assim, não seria difícil para um golpista ajustar alguns números usando software de edição de fotos ou talvez prompts mais específicos.

Fica bastante claro que tornar tão fácil gerar recibos falsos abre um mundo inteiro de possibilidades de fraude. Não é difícil imaginar agentes mal-intencionados usando essa tecnologia para serem “reembolsados” por despesas completamente inventadas.

Taya Christianson, porta-voz da OpenAI, disse à TechCrunch que todas as imagens feitas pelo ChatGPT vêm com metadados mostrando que foram criadas pela IA. Christianson também mencionou que a OpenAI “toma medidas” contra usuários que violam suas políticas de uso e que estão “sempre aprendendo” com o uso no mundo real e feedback.

Quando perguntamos por que o ChatGPT permite que as pessoas criem recibos falsos em primeiro lugar, e se isso está de acordo com as políticas de uso da OpenAI (que proíbem fraudes), Christianson disse que o “objetivo da OpenAI é dar aos usuários o máximo de liberdade criativa possível”. Ela apontou que recibos falsos de IA podem ser usados para fins não fraudulentos, como “ensinar às pessoas sobre alfabetização financeira”, além de criar arte original e anúncios de produtos.