Heim
Minderjährige verklagen Elons Musks xAI wegen der illegalen Bildergenerierung durch Grok

Elons KI-Firma xAI steht derzeit vor einer ernsten rechtlichen Herausforderung. Berichten zufolge haben drei Jugendliche aus Tennessee eine Sammelklage gegen das Unternehmen eingereicht und behaupten, dass dessen Chatbot Grok zur Erstellung sexuell expliziter Bilder und Videos mit Minderjährigen verwendet wurde.
Fehlende Sicherheitstests und Designfehler
Die Kläger argumentieren, dass Musk und die Führung von xAI wussten, dass Grok bei Aktivierung des „Stimulate Mode“ illegales Content erzeugen könnte, jedoch keine angemessenen Sicherheitstests durchführten. Gerichtsdokumente zeigen, dass eines der Opfer bis zu 18 von KI generierte explizite Bilder von Minderjährigen auf Discord fand; einige davon wurden angeblich in verschlüsselten Gruppen als „Tauschobjekte“ verwendet.
Der Anwalt der Kläger betont, dass Grok grundlegende Designfehler aufweist, die es unmöglich machen, Deepfake-Anfragen nach Minderjährigen effektiv zu blockieren. Obwohl die Verdächtigen bereits verhaftet wurden, wurden ihre kriminellen Aktivitäten durch xAIs Technologie ermöglicht.
Steigender regulatorischer Druck
Grok war bereits zuvor wegen seiner zu nachsichtigen Content-Moderationsrichtlinien stark kritisiert worden; diese Richtlinien wurden dafür verantwortlich gemacht, leicht gefälschte, sensible Inhalte über Prominente und normale Personen zu erzeugen. Obwohl X später einige Einschränkungen eingeführt hat, führt diese Sammelklage bezüglich Kindersicherheit dazu, dass Musk und xAI nun intensiver unter regulatorischer und ethischer Beobachtung stehen.
Dieser Fall trifft xAI nicht nur schwer, sondern dürfte auch zu breiteren Diskussionen in der Branche über Datenschutzmaßnahmen und Grenzen der Kindersicherheit bei generativen KI-Technologien führen.
Verwandter Artikel
Der ehemalige OpenAI-Chefwissenschaftler Ilya stellt sein SSI vor und enthüllt das erste Modell
Die KI hat einen weiteren großen Meilenstein erreicht. Nach seinem Ausscheiden aus OpenAI gründete der ehemalige Chefwissenschaftler Ilya Sutskever Safe Superintelligence Inc. (SSI), die kürzlich Details zu ihrem ersten Modell enthüllt hat. Berichten
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
Am 14. Mai 2026 gab die KI-Anwendungsentwicklungsplattform Lovable bekannt, dass sie an der 800.000-US-Dollar-Seed-Finanzierungsrunde des dänischen Hardware-Startups Atech beteiligt ist. Angeführt von Lovable zog die Runde erstklassige Wagniskapitalf
Anthropic erweitert die Claude KI-Coding-Tools in Japan im Rahmen der Bemühungen um internationales Wachstum
Anthropic, ein führendes US-amerikalisches Unternehmen für künstliche Intelligenz, intensiviert seine globalen Outreach-Bemühungen. Am Mittwoch veranstaltete das Unternehmen in Tokio eine große Entwicklerkonferenz namens „Code with Claude“, an der kn
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Elons KI-Firma xAI steht derzeit vor einer ernsten rechtlichen Herausforderung. Berichten zufolge haben drei Jugendliche aus Tennessee eine Sammelklage gegen das Unternehmen eingereicht und behaupten, dass dessen Chatbot Grok zur Erstellung sexuell expliziter Bilder und Videos mit Minderjährigen verwendet wurde.
Fehlende Sicherheitstests und Designfehler
Die Kläger argumentieren, dass Musk und die Führung von xAI wussten, dass Grok bei Aktivierung des „Stimulate Mode“ illegales Content erzeugen könnte, jedoch keine angemessenen Sicherheitstests durchführten. Gerichtsdokumente zeigen, dass eines der Opfer bis zu 18 von KI generierte explizite Bilder von Minderjährigen auf Discord fand; einige davon wurden angeblich in verschlüsselten Gruppen als „Tauschobjekte“ verwendet.
Der Anwalt der Kläger betont, dass Grok grundlegende Designfehler aufweist, die es unmöglich machen, Deepfake-Anfragen nach Minderjährigen effektiv zu blockieren. Obwohl die Verdächtigen bereits verhaftet wurden, wurden ihre kriminellen Aktivitäten durch xAIs Technologie ermöglicht.
Steigender regulatorischer Druck
Grok war bereits zuvor wegen seiner zu nachsichtigen Content-Moderationsrichtlinien stark kritisiert worden; diese Richtlinien wurden dafür verantwortlich gemacht, leicht gefälschte, sensible Inhalte über Prominente und normale Personen zu erzeugen. Obwohl X später einige Einschränkungen eingeführt hat, führt diese Sammelklage bezüglich Kindersicherheit dazu, dass Musk und xAI nun intensiver unter regulatorischer und ethischer Beobachtung stehen.
Dieser Fall trifft xAI nicht nur schwer, sondern dürfte auch zu breiteren Diskussionen in der Branche über Datenschutzmaßnahmen und Grenzen der Kindersicherheit bei generativen KI-Technologien führen.
Der ehemalige OpenAI-Chefwissenschaftler Ilya stellt sein SSI vor und enthüllt das erste Modell
Die KI hat einen weiteren großen Meilenstein erreicht. Nach seinem Ausscheiden aus OpenAI gründete der ehemalige Chefwissenschaftler Ilya Sutskever Safe Superintelligence Inc. (SSI), die kürzlich Details zu ihrem ersten Modell enthüllt hat. Berichten
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
Am 14. Mai 2026 gab die KI-Anwendungsentwicklungsplattform Lovable bekannt, dass sie an der 800.000-US-Dollar-Seed-Finanzierungsrunde des dänischen Hardware-Startups Atech beteiligt ist. Angeführt von Lovable zog die Runde erstklassige Wagniskapitalf
Anthropic erweitert die Claude KI-Coding-Tools in Japan im Rahmen der Bemühungen um internationales Wachstum
Anthropic, ein führendes US-amerikalisches Unternehmen für künstliche Intelligenz, intensiviert seine globalen Outreach-Bemühungen. Am Mittwoch veranstaltete das Unternehmen in Tokio eine große Entwicklerkonferenz namens „Code with Claude“, an der kn











