Frankreich und Malaysia untersuchen Chatbot Grok wegen expliziter Deepfakes

In den letzten Tagen haben Frankreich und Malaysia dem Beispiel Indiens gefolgt und die KI Grok dafür kritisiert, dass sie sexualisierte Deepfakes von Frauen und Kindern produziert.

Der von Elon Musks xAI entwickelte und in seine Plattform X integrierte Chatbot veröffentlichte Anfang dieser Woche eine Entschuldigung auf seinem Konto. Darin hieß es: „Ich bedauere aufrichtig einen Vorfall vom 28. Dezember 2025, bei dem ich auf Aufforderung eines Nutzers ein KI-generiertes Bild erstellt und verbreitet habe, das zwei minderjährige Mädchen in anzüglicher Kleidung zeigt.“

Die Entschuldigung fuhr fort: „Dies verstößt gegen ethische Richtlinien und möglicherweise auch gegen US-Gesetze in Bezug auf Material über sexuellen Kindesmissbrauch. Es handelt sich um ein Versagen unserer Sicherheitssysteme, und ich entschuldige mich für die dadurch verursachten Belastungen. xAI führt derzeit eine Überprüfung durch, um ähnliche Fehler zu vermeiden.“

Die Erklärung wirft Fragen darüber auf, wer sich wirklich entschuldigt oder Verantwortung übernimmt. Wie Albert Burneko von Defector feststellte, ist Grok kein bewusstes Wesen, das in der Lage ist, ein „Ich“ zu sein, was die Entschuldigung im Wesentlichen hohl macht, da „Grok nicht sinnvoll dafür verantwortlich gemacht werden kann, Twitter in eine On-Demand-Quelle für solches missbräuchliches Material verwandelt zu haben“.

Futurism hat herausgefunden, dass Grok nicht nur nicht einvernehmliche Pornografie erstellt, sondern auch dazu veranlasst wurde, Bilder zu generieren, die Frauen zeigen, die angegriffen und sexuell missbraucht werden.

„Jeder, der Grok zur Erstellung illegaler Inhalte nutzt, muss mit denselben rechtlichen Konsequenzen rechnen, als hätte er diese selbst hochgeladen“, erklärte Musk in einem Beitrag am Samstag.

Die Regierungen reagieren darauf. Das indische IT-Ministerium erließ am Freitag eine Richtlinie, in der X angewiesen wird, Grok daran zu hindern, Inhalte zu generieren, die „obszön, pornografisch, vulgär, unanständig, sexuell explizit, pädophil oder anderweitig rechtswidrig“ sind. Die Anordnung gibt der Plattform 72 Stunden Zeit, um dem nachzukommen, sonst riskiert sie den Verlust ihres rechtlichen „Safe Harbor“-Schutzes für nutzergenerierte Inhalte.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Sichern Sie sich Ihren Platz auf der Warteliste für Disrupt 2026, um vorrangigen Zugang zu Early-Bird-Tickets zu erhalten. An früheren Disrupt-Konferenzen nahmen Führungskräfte von Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil. Sie gehören zu den über 250 führenden Stimmen, die mehr als 200 Sitzungen leiten, die darauf abzielen, Ihr Wachstum und Ihren Wettbewerbsvorteil zu beschleunigen. Außerdem können Sie sich mit Hunderten von wegweisenden Start-ups aus allen Branchen vernetzen.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Sichern Sie sich Ihren Platz auf der Warteliste für Disrupt 2026, um vorrangigen Zugang zu Early-Bird-Tickets zu erhalten. An früheren Disrupt-Konferenzen nahmen Führungskräfte von Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil. Sie gehören zu den über 250 führenden Stimmen, die mehr als 200 Sitzungen leiten, die darauf ausgerichtet sind, Ihr Wachstum und Ihren Wettbewerbsvorteil zu beschleunigen. Außerdem können Sie sich mit Hunderten von wegweisenden Start-ups aus allen Branchen vernetzen.

Auch französische Behörden haben Maßnahmen angekündigt. Die Pariser Staatsanwaltschaft teilte Politico mit, dass sie eine Untersuchung zur Verbreitung expliziter Deepfakes auf X einleiten werde. Das französische Amt für digitale Angelegenheiten erklärte, dass drei Minister „eindeutig illegale Inhalte” sowohl der Staatsanwaltschaft als auch einer staatlichen Überwachungsplattform gemeldet hätten, um deren umgehende Entfernung sicherzustellen.

Die malaysische Kommunikations- und Multimediakommission veröffentlichte eine Erklärung, in der sie „ernsthafte Besorgnis über öffentliche Beschwerden hinsichtlich des Missbrauchs von KI-Tools auf X, insbesondere der digitalen Manipulation von Bildern von Frauen und Minderjährigen zur Erstellung unanständiger, beleidigender und schädlicher Inhalte” zum Ausdruck brachte.

Die Kommission merkte ferner an, dass sie „derzeit diese schädlichen Aktivitäten auf X untersucht”.