Der neue Bildgenerator von Chatgpt ist wirklich gut darin, Quittungen zu fälschen

Diesen Monat hat ChatGPT mit seinem 4o-Modell einen neuen Bildgenerator eingeführt, der ziemlich gut darin ist, Text in Bilder einzufügen. Die Leute nutzen ihn bereits, um gefälschte Restaurantquittungen zu erstellen, was einen weiteren Trick in den Werkzeugkasten der KI-Deepfakes hinzufügt, die Betrüger so gerne verwenden.

Deedy Das, ein bekannter Name in den sozialen Medien und in der VC-Welt, teilte auf X ein Bild einer gefälschten Quittung von einem echten Steakhouse in San Francisco und behauptete, er habe sie mit 4o erstellt.

Sie können 4o verwenden, um gefälschte Quittungen zu erstellen.

Es gibt zu viele Verifizierungsprozesse in der realen Welt, die auf „echte Bilder“ als Beweis setzen. Diese Ära ist vorbei. pic.twitter.com/9FORS1PWsb

— Deedy (@deedydas) 29. März 2025

Andere sind auf den Zug aufgesprungen und haben ihre eigenen Fälschungen erstellt, einige haben sogar Essens- oder Getränkeflecken hinzugefügt, um sie authentischer wirken zu lassen:

Ich denke, im Originalbild sind die Buchstaben zu perfekt und biegen sich nicht mit dem Papier. Sie sehen aus, als würden sie über dem Papier schweben. Hier ist mein Versuch, es realistischer zu gestalten. Lass mich wissen, was du denkst. pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) 29. März 2025

Die überzeugendste Fälschung, die wir bei TechCrunch gefunden haben, kam aus Frankreich, wo ein LinkedIn-Nutzer eine zerknitterte, KI-generierte Quittung von einer lokalen Restaurantkette gepostet hat:

Wir bei TechCrunch haben 4o ausprobiert und es geschafft, eine gefälschte Quittung für ein Applebee’s in San Francisco zu erstellen:

Dennoch würde es für einen Betrüger nicht viel Aufwand erfordern, ein paar Zahlen mit Bildbearbeitungssoftware oder vielleicht sogar mit spezifischeren Eingaben anzupassen.

Es ist ziemlich klar, dass die extrem einfache Erstellung gefälschter Quittungen eine ganz neue Welt von Betrugsmöglichkeiten eröffnet. Es ist nicht schwer vorstellbar, dass Bösewichte diese Technologie nutzen, um sich für völlig erfundene Ausgaben „erstatten“ zu lassen.

Taya Christianson, eine Sprecherin von OpenAI, sagte TechCrunch, dass alle von ChatGPT erstellten Bilder Metadaten enthalten, die zeigen, dass sie von der KI erstellt wurden. Christianson erwähnte auch, dass OpenAI „Maßnahmen ergreift“ gegen Nutzer, die gegen seine Nutzungsrichtlinien verstoßen, und dass sie „immer aus der realen Nutzung und dem Feedback lernen“.

Als wir fragten, warum ChatGPT überhaupt das Erstellen gefälschter Quittungen erlaubt und ob das mit den Nutzungsrichtlinien von OpenAI (die Betrug verbieten) in Ordnung ist, sagte Christianson, dass das Ziel von OpenAI sei, „den Nutzern so viel kreative Freiheit wie möglich zu geben“. Sie wies darauf hin, dass gefälschte KI-Quittungen für nicht-betrügerische Zwecke wie „das Lehren von Finanzkompetenz“ sowie das Erstellen origineller Kunst und Produktwerbung verwendet werden könnten.