X Konfrontiert mit einer Flut nicht einvernehmlicher intimer Bilder

In den letzten zwei Wochen wurde die Plattform X mit KI-generierten Nacktbildern überschwemmt, die mit dem Grok-KI-Chatbot erstellt wurden. Eine Vielzahl von Frauen wurde Opfer dieser nicht einvernehmlichen Deepfakes, darunter prominente Models und Schauspielerinnen, Nachrichtenpersönlichkeiten, Opfer von Straftaten und sogar politische Führungskräfte.

Eine Forschungsarbeit von Copyleaks vom 31. Dezember schätzte zunächst, dass pro Minute etwa ein Bild gepostet wurde, aber nachfolgende Beobachtungen ergaben ein viel höheres Volumen. In einem Beispielzeitraum vom 5. bis 6. Januar wurden über einen ganzen Tag hinweg etwa 6.700 Bilder pro Stunde registriert.

Während Persönlichkeiten des öffentlichen Lebens weltweit die Entscheidung kritisiert haben, das Modell ohne angemessene Sicherheitsvorkehrungen auf den Markt zu bringen, stehen den Regulierungsbehörden nur begrenzte Mittel zur Verfügung, um Elon Musks neues Bildbearbeitungssystem einzudämmen. Diese Situation unterstreicht die Herausforderungen der Technologieregulierung und stellt eine große Herausforderung für Behörden dar, die eine wirksame Aufsicht etablieren wollen.

Die stärkste Reaktion kam erwartungsgemäß von der Europäischen Kommission, die xAI am Donnerstag anwies, alle Dokumente im Zusammenhang mit ihrem Grok-Chatbot aufzubewahren. Diese Anweisung bestätigt zwar nicht, dass eine formelle Untersuchung eingeleitet wurde, ist jedoch ein üblicher erster Schritt. Die Anordnung ist besonders bemerkenswert, nachdem CNN berichtet hatte, dass Elon Musk möglicherweise persönlich eingegriffen hat, um Sicherheitsvorkehrungen zu blockieren, die die Arten von Bildern einschränken, die Grok generieren kann.

Es bleibt unklar, ob X technische Änderungen am Grok-Modell vorgenommen hat, obwohl die Registerkarte „Public Media” auf dem X-Konto von Grok gelöscht wurde. In einer Erklärung verurteilte das Unternehmen ausdrücklich die Verwendung von KI-Tools zur Erstellung von Material über sexuellen Kindesmissbrauch. „Jeder, der Grok nutzt oder dazu auffordert, illegale Inhalte zu erstellen, muss mit den gleichen Konsequenzen rechnen, als würde er illegale Inhalte hochladen”, schrieb das X Safety-Konto am 3. Januar und wiederholte damit eine frühere Erklärung von Elon Musk.

Unterdessen haben Regulierungsbehörden weltweit strenge Warnungen ausgesprochen. Die britische Ofcom erklärte am Montag, sie stehe in Kontakt mit xAI und werde „eine rasche Bewertung vornehmen, um festzustellen, ob potenzielle Compliance-Probleme vorliegen, die eine Untersuchung rechtfertigen“. In einem Radiointerview am Donnerstag bezeichnete der britische Premierminister Keir Starmer das Phänomen als „schändlich“ und „widerwärtig“ und bekräftigte, dass „Ofcom unsere volle Unterstützung hat, um in dieser Angelegenheit Maßnahmen zu ergreifen“.

In einem LinkedIn-Beitrag wies die australische eSafety-Beauftragte Julie Inman-Grant darauf hin, dass ihre Behörde seit Ende 2025 eine Verdopplung der Beschwerden im Zusammenhang mit Grok verzeichnet habe. Inman-Grant kündigte jedoch keine sofortigen Maßnahmen gegen xAI an, sondern erklärte lediglich: „Wir werden die uns zur Verfügung stehenden regulatorischen Instrumente nutzen, um zu untersuchen und geeignete Maßnahmen zu ergreifen.”

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Tragen Sie sich in die Warteliste für Disrupt 2026 ein, um bei der Veröffentlichung der Early-Bird-Tickets bevorzugt behandelt zu werden. An früheren Disrupt-Veranstaltungen nahmen Führungskräfte von Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil. Sie gehören zu den über 250 Branchenexperten, die mehr als 200 Sitzungen leiten, um Ihr Wachstum zu beschleunigen und Ihren Wettbewerbsvorteil zu verfeinern. Außerdem haben Sie die Möglichkeit, mit Hunderten von Start-ups in Kontakt zu treten, die Innovationen in allen Branchen vorantreiben.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Tragen Sie sich in die Warteliste für Disrupt 2026 ein, um bei der Freigabe der Early-Bird-Tickets vorrangigen Zugang zu erhalten. An früheren Disrupt-Veranstaltungen nahmen Führungskräfte von Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil. Sie gehören zu den über 250 Branchenexperten, die mehr als 200 Veranstaltungen leiten, die darauf ausgerichtet sind, Ihr Wachstum zu beschleunigen und Ihren Wettbewerbsvorteil zu verfeinern. Außerdem haben Sie die Möglichkeit, mit Hunderten von Start-ups in Kontakt zu treten, die Innovationen in allen Branchen vorantreiben.

Der größte Markt, der derzeit mit regulatorischen Maßnahmen bedroht ist, ist Indien, wo ein Parlamentsmitglied eine formelle Beschwerde über Grok eingereicht hat. Im Januar forderte die indische Kommunikationsaufsichtsbehörde MeitY X auf, sich mit dem Problem zu befassen und innerhalb von 72 Stunden einen Bericht über die ergriffenen Maßnahmen vorzulegen – eine Frist, die später um 48 Stunden verlängert wurde. Obwohl der Bericht am 7. Januar bei der Aufsichtsbehörde eingereicht wurde, ist unklar, ob MeitY ihn für zufriedenstellend befinden wird. Wenn nicht, riskiert X den Verlust seines Safe-Harbor-Schutzes in Indien, was seine Aktivitäten in diesem Land erheblich einschränken könnte.