YouTube verstärkt den Schutz vor KI-Deepfakes für Politiker, Amtsträger und Journalisten

YouTube weitet den Zugang zu seiner Technologie zur Erkennung von Personenabbildern, die dazu dient, KI-generierte Deepfakes zu identifizieren, auf ein Pilotprogramm für Regierungsbeamte, politische Kandidaten und Journalisten aus, wie das Unternehmen am Dienstag bekannt gab. Die Teilnehmer dieses Pilotprogramms können ein Tool nutzen, das unbefugt KI-generierte Inhalte mit ihrem Abbild aufspürt, und deren Entfernung beantragen, falls diese gegen die Richtlinien von YouTube verstoßen.

Diese Technologie wurde im vergangenen Jahr auf der Grundlage früherer Tests zunächst für rund 4 Millionen Creator im YouTube-Partnerprogramm eingeführt.

Ähnlich wie das etablierte Content-ID-System von YouTube für urheberrechtlich geschütztes Material scannt diese Funktion zur Erkennung von Abbildern nach KI-simulierten Gesichtern. Solche KI-Tools werden gelegentlich dazu missbraucht, Falschinformationen zu verbreiten, indem überzeugende Deepfakes von Persönlichkeiten des öffentlichen Lebens – wie Politikern oder Beamten – erstellt werden, in denen diese Dinge sagen oder tun, die nie stattgefunden haben.

Mit diesem neuen Pilotprojekt versucht YouTube, ein Gleichgewicht zwischen dem Schutz der freien Meinungsäußerung und der Bewältigung der Risiken zu finden, die von KI-Technologie ausgehen, die realistische Nachahmungen von Personen des öffentlichen Lebens erzeugen kann.

„Bei dieser Erweiterung geht es im Wesentlichen um die Wahrung der Integrität des öffentlichen Diskurses“, erklärte Leslie Miller, Vice President of Government Affairs and Public Policy bei YouTube, in einer Pressekonferenz. „Wir sind uns der erhöhten Risiken bewusst, die KI-Imitationen für Personen in öffentlichen Ämtern mit sich bringen. Wir bieten diesen neuen Schutz an, setzen ihn jedoch mit großer Sorgfalt um“, fügte sie hinzu.

Bildnachweis:YouTube

Miller stellte klar, dass nicht jede erkannte Übereinstimmung auf Anfrage automatisch entfernt wird. YouTube wird jeden Fall anhand seiner bestehenden Datenschutzrichtlinien prüfen, um festzustellen, ob der Inhalt eine geschützte Meinungsäußerung darstellt, wie beispielsweise eine Parodie oder politische Kritik.

Das Unternehmen bekräftigte zudem seine Unterstützung für Schutzmaßnahmen auf Bundesebene und befürwortete Gesetzesvorlagen wie den vorgeschlagenen NO FAKES Act in Washington, D.C., der darauf abzielt, die unbefugte KI-Nachahmung der Stimme und des Aussehens einer Person zu regulieren.

Teilnahmeberechtigte Pilot-Tester müssen ihre Identität durch ein Selfie und einen amtlichen Ausweis nachweisen, um das Tool nutzen zu können. Anschließend können sie ein Profil einrichten, erkannte Übereinstimmungen überprüfen und gegebenenfalls die Entfernung beantragen. YouTube plant, Nutzern künftig zu ermöglichen, rechtswidrige Inhalte vor ihrer Veröffentlichung zu blockieren oder möglicherweise Monetarisierungsrechte geltend zu machen, ähnlich wie bei der Content-ID-Funktion.

YouTube gab keine Auskunft über die konkreten Personen, die zur ersten Pilotgruppe gehören, wies jedoch darauf hin, dass das Ziel darin bestehe, die Technologie in Zukunft einer breiten Öffentlichkeit zugänglich zu machen.

Bildnachweis:YouTube

Videos, die als KI-generiert identifiziert wurden, werden mit einem Label versehen, dessen Platzierung jedoch variieren wird. Bei einigen Inhalten erscheint das Label in der Videobeschreibung, während Videos zu „sensibleren Themen“ ein auffälligeres Label direkt auf dem Videoplayer tragen werden. Dieser Ansatz steht im Einklang mit der Kennzeichnungspraxis von YouTube für alle KI-generierten Inhalte.

„Ein erheblicher Teil der Inhalte wird mit KI produziert, aber diese Tatsache steht nicht immer im Mittelpunkt des Inhaltszwecks“, erklärte Amjad Hanif, Vice President of Creator Products bei YouTube, bezüglich der Platzierung des Labels. „Es könnte sich beispielsweise um einen KI-generierten Cartoon handeln. Wir entscheiden nach unserem Ermessen, welche Kategorien von einem gut sichtbaren Hinweis profitieren könnten.“

YouTube hat die genaue Anzahl der durch diese Technologie ermöglichten Löschungen von KI-Deepfakes seit ihrer Freigabe für Creator nicht bekannt gegeben, merkt jedoch an, dass das bisher gelöschte Volumen „minimal“ gewesen sei.

„Für viele Creator besteht der Hauptvorteil darin, dass sie sich stärker bewusst werden, was hochgeladen wird. Die tatsächliche Zahl der Löschanfragen ist nach wie vor sehr gering, da die meisten Inhalte relativ harmlos sind oder sogar eine Bereicherung für ihren Kanal darstellen“, sagte Hanif.

Diese Dynamik kann bei Deepfakes, die sich gegen Regierungsbeamte, Politiker oder Journalisten richten, anders aussehen.

Mit Blick auf die Zukunft strebt YouTube an, seine Deepfake-Erkennungstechnologie auf andere Bereiche auszuweiten, darunter erkennbare Stimmen und geistiges Eigentum wie beliebte fiktionale Figuren.