OpenAI vereinfacht die Überprüfung von KI-generierten Bildern

Da sich KI-Bildgeneratoren im Internet immer weiter verbreiten und immer ausgefeilter werden, ist es schwieriger denn je, echte Bilder von Fälschungen zu unterscheiden. Am Dienstag stellte OpenAI zwei neue Maßnahmen vor, um dieses Problem anzugehen.
Das Unternehmen hat den offenen C2PA-Standard übernommen, der ein eindeutiges Signal in die Metadaten einbettet, das darauf hinweist, dass ein Bild KI-generiert wurde. Darüber hinaus arbeitet OpenAI mit Google zusammen, um ein unsichtbares Wasserzeichen namens SynthID zu integrieren – das so konzipiert ist, dass es schwerer zu erkennen und noch schwieriger zu entfernen ist, falls böswillige Akteure versuchen, ihre Spuren zu verwischen.
Diese Schutzmaßnahmen gelten derzeit nur für Bilder, die mit den eigenen Produkten von OpenAI erstellt wurden; sie werden daher die Flut von Bildern aus weniger seriösen KI-Tools nicht eindämmen. Sie tragen jedoch dazu bei, sicherzustellen, dass OpenAI selbst nicht zu dem Problem beiträgt.
OpenAI hat zudem eine Vorschau auf ein öffentliches Verifizierungstool vorgestellt, das auf beide Signale prüft und es Nutzern ermöglicht, auf einfache Weise zu testen, ob ein Bild KI-generiert wurde. Zunächst wird das Tool nur für Bilder funktionieren, die mit OpenAI-Produkten erstellt wurden, doch das Unternehmen hofft, es schließlich auf andere Tools auszuweiten.
Die 2021 gegründete „Coalition for Content Provenance and Authenticity“ (C2PA) ist eine gemeinnützige Organisation, die sich darauf konzentriert, die schädlichen Auswirkungen von KI-generierten Bildern auf den öffentlichen Diskurs zu verringern. Der C2PA-Standard wurde von verschiedenen Google-Produkten übernommen, doch die branchenweite Akzeptanz ist nach wie vor uneinheitlich. Da das C2PA-Signal in den Metadaten jeder Datei leicht zugänglich ist, kann es manipuliert werden, weshalb es vor allem bei vertrauenswürdigen Nutzern am effektivsten ist.
SynthID ist eine neuere Initiative, die einen robusteren Schutz vor Manipulationen bieten soll. Das von Google entwickelte SynthID-Wasserzeichen ist so konzipiert, dass es auch dann bestehen bleibt, wenn böswillige Akteure versuchen, es durch Screenshots, Größenänderung oder digitale Manipulation zu entfernen.
Die beiden Systeme sollen sich gegenseitig ergänzen, wobei jedes die Einschränkungen des anderen ausgleicht.
„Wasserzeichen sind bei Bearbeitungen wie Screenshots widerstandsfähiger, während Metadaten umfangreichere Informationen liefern können als ein Wasserzeichen allein“, erklärte OpenAI in seiner Ankündigung. „Zusammen machen sie die Herkunftsnachweise widerstandsfähiger, als es jede der beiden Ebenen für sich allein wäre.“
Verwandter Artikel
ChatGPT sendet jetzt Nachrichten über das neue Apple Messages-Plugin
Wenn Sie jemals alle Ihre digitalen Unterhaltungen mit OpenAI teilen wollten, haben wir gute Nachrichten für Sie: Das KI-Labor hat gerade ein Apple Messages-Plugin für ChatGPT eingeführt, das interessierten Nutzern ermöglicht, ihren Nachrichtenpostei
Googles Robby Stein nimmt an TechCrunch Disrupt 2026 teil
Das Erzielen erster Nutzerzahlen für ein neues Produkt ist schwierig, doch die Transformation einer App, die von Milliarden Menschen genutzt wird, stellt eine völlig andere Herausforderung dar. Das Ziel bleibt dasselbe: schnell voranzukommen, Konzept
US-Gesundheitsbehörden bewerten KI-Modelle von OpenAI und Anthropic
Gesundheitsbehörden im ganzen Land sollen im Rahmen einer neuen Initiative unter der Leitung der „Coalition for Health AI“ in Zusammenarbeit mit OpenAI, Anthropic und Accenture generative KI evaluiere
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Da sich KI-Bildgeneratoren im Internet immer weiter verbreiten und immer ausgefeilter werden, ist es schwieriger denn je, echte Bilder von Fälschungen zu unterscheiden. Am Dienstag stellte OpenAI zwei neue Maßnahmen vor, um dieses Problem anzugehen.
Das Unternehmen hat den offenen C2PA-Standard übernommen, der ein eindeutiges Signal in die Metadaten einbettet, das darauf hinweist, dass ein Bild KI-generiert wurde. Darüber hinaus arbeitet OpenAI mit Google zusammen, um ein unsichtbares Wasserzeichen namens SynthID zu integrieren – das so konzipiert ist, dass es schwerer zu erkennen und noch schwieriger zu entfernen ist, falls böswillige Akteure versuchen, ihre Spuren zu verwischen.
Diese Schutzmaßnahmen gelten derzeit nur für Bilder, die mit den eigenen Produkten von OpenAI erstellt wurden; sie werden daher die Flut von Bildern aus weniger seriösen KI-Tools nicht eindämmen. Sie tragen jedoch dazu bei, sicherzustellen, dass OpenAI selbst nicht zu dem Problem beiträgt.
OpenAI hat zudem eine Vorschau auf ein öffentliches Verifizierungstool vorgestellt, das auf beide Signale prüft und es Nutzern ermöglicht, auf einfache Weise zu testen, ob ein Bild KI-generiert wurde. Zunächst wird das Tool nur für Bilder funktionieren, die mit OpenAI-Produkten erstellt wurden, doch das Unternehmen hofft, es schließlich auf andere Tools auszuweiten.
Die 2021 gegründete „Coalition for Content Provenance and Authenticity“ (C2PA) ist eine gemeinnützige Organisation, die sich darauf konzentriert, die schädlichen Auswirkungen von KI-generierten Bildern auf den öffentlichen Diskurs zu verringern. Der C2PA-Standard wurde von verschiedenen Google-Produkten übernommen, doch die branchenweite Akzeptanz ist nach wie vor uneinheitlich. Da das C2PA-Signal in den Metadaten jeder Datei leicht zugänglich ist, kann es manipuliert werden, weshalb es vor allem bei vertrauenswürdigen Nutzern am effektivsten ist.
SynthID ist eine neuere Initiative, die einen robusteren Schutz vor Manipulationen bieten soll. Das von Google entwickelte SynthID-Wasserzeichen ist so konzipiert, dass es auch dann bestehen bleibt, wenn böswillige Akteure versuchen, es durch Screenshots, Größenänderung oder digitale Manipulation zu entfernen.
Die beiden Systeme sollen sich gegenseitig ergänzen, wobei jedes die Einschränkungen des anderen ausgleicht.
„Wasserzeichen sind bei Bearbeitungen wie Screenshots widerstandsfähiger, während Metadaten umfangreichere Informationen liefern können als ein Wasserzeichen allein“, erklärte OpenAI in seiner Ankündigung. „Zusammen machen sie die Herkunftsnachweise widerstandsfähiger, als es jede der beiden Ebenen für sich allein wäre.“
ChatGPT sendet jetzt Nachrichten über das neue Apple Messages-Plugin
Wenn Sie jemals alle Ihre digitalen Unterhaltungen mit OpenAI teilen wollten, haben wir gute Nachrichten für Sie: Das KI-Labor hat gerade ein Apple Messages-Plugin für ChatGPT eingeführt, das interessierten Nutzern ermöglicht, ihren Nachrichtenpostei
Googles Robby Stein nimmt an TechCrunch Disrupt 2026 teil
Das Erzielen erster Nutzerzahlen für ein neues Produkt ist schwierig, doch die Transformation einer App, die von Milliarden Menschen genutzt wird, stellt eine völlig andere Herausforderung dar. Das Ziel bleibt dasselbe: schnell voranzukommen, Konzept
US-Gesundheitsbehörden bewerten KI-Modelle von OpenAI und Anthropic
Gesundheitsbehörden im ganzen Land sollen im Rahmen einer neuen Initiative unter der Leitung der „Coalition for Health AI“ in Zusammenarbeit mit OpenAI, Anthropic und Accenture generative KI evaluiere





Heim






