Der neue Bildgenerator von Chatgpt ist wirklich gut darin, Quittungen zu fälschen
Diesen Monat hat ChatGPT mit seinem 4o-Modell einen neuen Bildgenerator eingeführt, der ziemlich gut darin ist, Text in Bilder einzufügen. Die Leute nutzen ihn bereits, um gefälschte Restaurantquittungen zu erstellen, was einen weiteren Trick in den Werkzeugkasten der KI-Deepfakes hinzufügt, die Betrüger so gerne verwenden.
Deedy Das, ein bekannter Name in den sozialen Medien und in der VC-Welt, teilte auf X ein Bild einer gefälschten Quittung von einem echten Steakhouse in San Francisco und behauptete, er habe sie mit 4o erstellt.
Sie können 4o verwenden, um gefälschte Quittungen zu erstellen.
Es gibt zu viele Verifizierungsprozesse in der realen Welt, die auf „echte Bilder“ als Beweis setzen. Diese Ära ist vorbei. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 29. März 2025
Andere sind auf den Zug aufgesprungen und haben ihre eigenen Fälschungen erstellt, einige haben sogar Essens- oder Getränkeflecken hinzugefügt, um sie authentischer wirken zu lassen:
Ich denke, im Originalbild sind die Buchstaben zu perfekt und biegen sich nicht mit dem Papier. Sie sehen aus, als würden sie über dem Papier schweben. Hier ist mein Versuch, es realistischer zu gestalten. Lass mich wissen, was du denkst. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 29. März 2025
Die überzeugendste Fälschung, die wir bei TechCrunch gefunden haben, kam aus Frankreich, wo ein LinkedIn-Nutzer eine zerknitterte, KI-generierte Quittung von einer lokalen Restaurantkette gepostet hat:
Wir bei TechCrunch haben 4o ausprobiert und es geschafft, eine gefälschte Quittung für ein Applebee’s in San Francisco zu erstellen:

Bildnachweis: chagpt / charles rollet Doch unser Versuch hatte ein paar verräterische Anzeichen, dass es sich um eine Fälschung handelt. Zum einen wurde beim Gesamtbetrag ein Komma statt eines Punkts verwendet, und die Rechnung war falsch. LLMs haben immer noch Probleme mit grundlegenden mathematischen Berechnungen, also ist das nicht allzu schockierend.Dennoch würde es für einen Betrüger nicht viel Aufwand erfordern, ein paar Zahlen mit Bildbearbeitungssoftware oder vielleicht sogar mit spezifischeren Eingaben anzupassen.
Es ist ziemlich klar, dass die extrem einfache Erstellung gefälschter Quittungen eine ganz neue Welt von Betrugsmöglichkeiten eröffnet. Es ist nicht schwer vorstellbar, dass Bösewichte diese Technologie nutzen, um sich für völlig erfundene Ausgaben „erstatten“ zu lassen.
Taya Christianson, eine Sprecherin von OpenAI, sagte TechCrunch, dass alle von ChatGPT erstellten Bilder Metadaten enthalten, die zeigen, dass sie von der KI erstellt wurden. Christianson erwähnte auch, dass OpenAI „Maßnahmen ergreift“ gegen Nutzer, die gegen seine Nutzungsrichtlinien verstoßen, und dass sie „immer aus der realen Nutzung und dem Feedback lernen“.
Als wir fragten, warum ChatGPT überhaupt das Erstellen gefälschter Quittungen erlaubt und ob das mit den Nutzungsrichtlinien von OpenAI (die Betrug verbieten) in Ordnung ist, sagte Christianson, dass das Ziel von OpenAI sei, „den Nutzern so viel kreative Freiheit wie möglich zu geben“. Sie wies darauf hin, dass gefälschte KI-Quittungen für nicht-betrügerische Zwecke wie „das Lehren von Finanzkompetenz“ sowie das Erstellen origineller Kunst und Produktwerbung verwendet werden könnten.
Verwandter Artikel
OpenAI bringt eine sicherere Version von ChatGPT für Jugendliche auf den Markt, Jahre nachdem diese begonnen hatten, die Plattform zu nutzen
Nach einer Reihe von Gerichtsverfahren wegen fehlender Sicherheitsvorkehrungen bei KI-Chatbots – die zu Selbstmorden unter Jugendlichen und anderen psychischen Krisen beigetragen hatten – stellte Open
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
NEAs Tiffany Luck: Unternehmen kämpfen weiterhin mit der ROI von KI
Laden des Players…Anfang dieses Jahres dominierte „Tokenmaxxing“ das Silicon Valley, wobei CEOs ihre Mitarbeiter aufforderten, die Nutzung von KI zu maximieren. Diese Begeisterung stieß jedoch schnell auf die Realität. Berichten zufolge hat Uber sei
Empfehlungen zu verwandten Spezialthemen
Kommentare (17)
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
Diesen Monat hat ChatGPT mit seinem 4o-Modell einen neuen Bildgenerator eingeführt, der ziemlich gut darin ist, Text in Bilder einzufügen. Die Leute nutzen ihn bereits, um gefälschte Restaurantquittungen zu erstellen, was einen weiteren Trick in den Werkzeugkasten der KI-Deepfakes hinzufügt, die Betrüger so gerne verwenden.
Deedy Das, ein bekannter Name in den sozialen Medien und in der VC-Welt, teilte auf X ein Bild einer gefälschten Quittung von einem echten Steakhouse in San Francisco und behauptete, er habe sie mit 4o erstellt.
Sie können 4o verwenden, um gefälschte Quittungen zu erstellen.
Es gibt zu viele Verifizierungsprozesse in der realen Welt, die auf „echte Bilder“ als Beweis setzen. Diese Ära ist vorbei. pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 29. März 2025
Andere sind auf den Zug aufgesprungen und haben ihre eigenen Fälschungen erstellt, einige haben sogar Essens- oder Getränkeflecken hinzugefügt, um sie authentischer wirken zu lassen:
Ich denke, im Originalbild sind die Buchstaben zu perfekt und biegen sich nicht mit dem Papier. Sie sehen aus, als würden sie über dem Papier schweben. Hier ist mein Versuch, es realistischer zu gestalten. Lass mich wissen, was du denkst. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 29. März 2025
Die überzeugendste Fälschung, die wir bei TechCrunch gefunden haben, kam aus Frankreich, wo ein LinkedIn-Nutzer eine zerknitterte, KI-generierte Quittung von einer lokalen Restaurantkette gepostet hat:
Wir bei TechCrunch haben 4o ausprobiert und es geschafft, eine gefälschte Quittung für ein Applebee’s in San Francisco zu erstellen:

Dennoch würde es für einen Betrüger nicht viel Aufwand erfordern, ein paar Zahlen mit Bildbearbeitungssoftware oder vielleicht sogar mit spezifischeren Eingaben anzupassen.
Es ist ziemlich klar, dass die extrem einfache Erstellung gefälschter Quittungen eine ganz neue Welt von Betrugsmöglichkeiten eröffnet. Es ist nicht schwer vorstellbar, dass Bösewichte diese Technologie nutzen, um sich für völlig erfundene Ausgaben „erstatten“ zu lassen.
Taya Christianson, eine Sprecherin von OpenAI, sagte TechCrunch, dass alle von ChatGPT erstellten Bilder Metadaten enthalten, die zeigen, dass sie von der KI erstellt wurden. Christianson erwähnte auch, dass OpenAI „Maßnahmen ergreift“ gegen Nutzer, die gegen seine Nutzungsrichtlinien verstoßen, und dass sie „immer aus der realen Nutzung und dem Feedback lernen“.
Als wir fragten, warum ChatGPT überhaupt das Erstellen gefälschter Quittungen erlaubt und ob das mit den Nutzungsrichtlinien von OpenAI (die Betrug verbieten) in Ordnung ist, sagte Christianson, dass das Ziel von OpenAI sei, „den Nutzern so viel kreative Freiheit wie möglich zu geben“. Sie wies darauf hin, dass gefälschte KI-Quittungen für nicht-betrügerische Zwecke wie „das Lehren von Finanzkompetenz“ sowie das Erstellen origineller Kunst und Produktwerbung verwendet werden könnten.
OpenAI bringt eine sicherere Version von ChatGPT für Jugendliche auf den Markt, Jahre nachdem diese begonnen hatten, die Plattform zu nutzen
Nach einer Reihe von Gerichtsverfahren wegen fehlender Sicherheitsvorkehrungen bei KI-Chatbots – die zu Selbstmorden unter Jugendlichen und anderen psychischen Krisen beigetragen hatten – stellte Open
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
NEAs Tiffany Luck: Unternehmen kämpfen weiterhin mit der ROI von KI
Laden des Players…Anfang dieses Jahres dominierte „Tokenmaxxing“ das Silicon Valley, wobei CEOs ihre Mitarbeiter aufforderten, die Nutzung von KI zu maximieren. Diese Begeisterung stieß jedoch schnell auf die Realität. Berichten zufolge hat Uber sei
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!





Heim






