YouTube weitet die KI-basierte Deepfake-Erkennung auf Politiker, Regierungsvertreter und Journalisten aus

Am Dienstag gab YouTube bekannt, dass es seine Deepfake-Erkennungstechnologie auf eine ausgewählte Gruppe von Regierungsbeamten, politischen Kandidaten und Journalisten ausweiten wird. Das Tool identifiziert KI-generierte Abbildungen und ermöglicht es den Teilnehmern des Pilotprojekts, die Entfernung von nicht autorisierten Inhalten zu beantragen, die ihrer Meinung nach gegen die Richtlinien von YouTube verstoßen.

Das Erkennungssystem wurde nach früheren Testphasen im vergangenen Jahr zunächst für rund 4 Millionen Creator im YouTube-Partnerprogramm eingeführt.

Ähnlich wie das bestehende Content-ID-System von YouTube für urheberrechtlich geschütztes Material identifiziert die Ähnlichkeitserkennungsfunktion KI-simulierte Gesichter. Diese synthetischen Darstellungen werden manchmal dazu genutzt, Falschinformationen zu verbreiten und die Realität zu verzerren, indem sie bekannte Persönlichkeiten scheinbar Dinge sagen oder tun lassen, die sie im wirklichen Leben nie getan haben.

Mit diesem Pilotprogramm will YouTube einen Ausgleich zwischen der freien Meinungsäußerung und den Risiken der KI-Technologie schaffen, die überzeugende Abbildungen von Persönlichkeiten des öffentlichen Lebens erzeugen kann.

„Bei dieser Ausweitung geht es wirklich darum, die Integrität des öffentlichen Diskurses zu schützen“, sagte Leslie Miller, Vice President of Government Affairs and Public Policy bei YouTube, in einer Pressekonferenz im Vorfeld der Ankündigung am Dienstag. „Wir sind uns bewusst, dass KI-Identitätsdiebstahl besonders hohe Risiken für Personen im zivilgesellschaftlichen Bereich birgt. Doch während wir diese neue Schutzmaßnahme bereitstellen, wenden wir sie auch mit Bedacht an“, fügte sie hinzu.

Bildnachweis: YouTube

Miller erklärte, dass nicht jede erkannte Übereinstimmung auf Anfrage entfernt werde. Stattdessen werde YouTube jede Anfrage im Rahmen seiner bestehenden Datenschutzrichtlinie prüfen, um festzustellen, ob der Inhalt als Parodie oder politische Kritik einzustufen sei – beides sind geschützte Formen der freien Meinungsäußerung.

Das Unternehmen setzt sich zudem für bundesweite Schutzmaßnahmen ein und unterstützt den NO FAKES Act in Washington, D.C., der die durch KI erzeugte, unbefugte Nachahmung der Stimme und des Aussehens einer Person regeln soll.

Teilnahmeberechtigte Testpersonen müssen ihre Identität durch das Hochladen eines Selfies und eines amtlichen Ausweises bestätigen, bevor sie das Tool nutzen können. Nach der Freigabe können sie ein Profil erstellen, erkannte Übereinstimmungen überprüfen und bei Bedarf die Entfernung beantragen. YouTube plant, Nutzern künftig zu ermöglichen, regelwidrige Inhalte zu blockieren, bevor sie veröffentlicht werden, oder diese Videos möglicherweise zu monetarisieren – ähnlich wie es bei Content ID der Fall ist.

YouTube lehnte es ab, konkrete Politiker oder Amtsträger in der ersten Testergruppe zu nennen, erklärte jedoch, das Ziel sei es, die Technologie im Laufe der Zeit einer breiten Öffentlichkeit zugänglich zu machen.

Bildnachweis: YouTube

KI-generierte Videos werden mit Hinweisen versehen, die auf ihre synthetische Herkunft hinweisen, wobei die Platzierung variiert. Bei den meisten Inhalten erscheint der Hinweis in der Videobeschreibung. Bei sensibleren Themen wird der Hinweis deutlich sichtbar angezeigt, bevor das Video abgespielt wird. Dieser Ansatz spiegelt die allgemeine Richtlinie von YouTube für alle KI-generierten Inhalte wider.

„Viele Inhalte werden mit KI produziert, aber diese Unterscheidung ist nicht immer für den Inhalt selbst von Bedeutung“, erklärte Amjad Hanif, Vice President of Creator Products bei YouTube, bezüglich der Platzierung der Kennzeichnung. „Ein KI-generierter Cartoon unterscheidet sich beispielsweise von Inhalten, die möglicherweise einen besser sichtbaren Hinweis erfordern. Der Kontext ist entscheidend“, sagte er.

YouTube hat nicht bekannt gegeben, wie viele Deepfake-Entfernungen über sein Tool für Creator bearbeitet wurden, merkte jedoch an, dass das Volumen bisher „sehr gering“ gewesen sei.

„Für die meisten Creator hat das Tool vor allem das Bewusstsein dafür geschärft, was produziert wird. Die tatsächliche Anzahl der Löschanträge ist extrem gering, da sich die meisten erkannten Inhalte als harmlos oder sogar als Gewinn für ihr Geschäft erweisen“, sagte Hanif.

Das ist bei Deepfakes von Regierungsbeamten, Politikern oder Journalisten möglicherweise nicht der Fall.

Mit Blick auf die Zukunft plant YouTube, seine Deepfake-Erkennungstechnologie auf weitere Bereiche auszuweiten, darunter erkennbare Sprechstimmen und geistiges Eigentum wie beliebte Figuren.