HeimKaliforniens Generalstaatsanwalt verklagt xAI wegen Deepfake-Pornografie
Anfang dieser Woche leitete der Generalstaatsanwalt von Kalifornien eine Untersuchung gegen xAI ein, nachdem Berichte bekannt geworden waren, dass dessen Chatbot „Grok“ dazu genutzt wurde, nicht einvernehmliche sexuelle Darstellungen von Frauen und Minderjährigen zu generieren. Am Freitag verschärfte der Staat seine Reaktion durch die Zustellung einer Unterlassungsaufforderung, in der das Unternehmen aufgefordert wurde, die Erstellung solcher intimen Bilder und von Material über sexuellen Kindesmissbrauch (CSAM) unverzüglich einzustellen.
„Ich habe xAI heute eine Unterlassungsaufforderung zugestellt, in der ich das Unternehmen auffordere, die Erstellung und Verbreitung von Deepfakes, nicht einvernehmlichen intimen Bildern und Material über sexuellen Kindesmissbrauch unverzüglich einzustellen“, erklärte der kalifornische Generalstaatsanwalt Rob Bonta in einer Pressemitteilung. „Diese Aktivitäten sind illegal. Ich erwarte von xAI, dass es dieser Aufforderung unverzüglich nachkommt. Kalifornien zeigt keinerlei Toleranz gegenüber CSAM.“
Die Generalstaatsanwaltschaft behauptete ferner, dass xAI offenbar „die groß angelegte Produktion“ von nicht einvernehmlichen Nacktbildern „ermöglicht“, die dann „dazu verwendet werden, Frauen und Mädchen online zu belästigen“. Die Behörde hat xAI fünf Tage Zeit gegeben, um nachzuweisen, dass es konkrete Schritte zur Lösung dieser Probleme unternimmt.
Im Mittelpunkt der Kontroverse steht der „Spicy“-Modus von Grok, eine von xAI entwickelte Funktion zur Erzeugung expliziter Inhalte. Die Gegenreaktion hat sich über Kalifornien hinaus ausgeweitet: Japan, Kanada und Großbritannien haben eigene Ermittlungen gegen Grok eingeleitet. Malaysia und Indonesien haben den Zugang zur Plattform vorübergehend vollständig gesperrt. Obwohl xAI am späten Mittwoch einige Einschränkungen für seine Bildbearbeitungsfunktionen eingeführt hatte, erließ der kalifornische Generalstaatsanwalt die Unterlassungsverfügung.
Das Sicherheitsteam von X hat diese Art von Nutzeraktivitäten bereits zuvor verurteilt und erklärt: „Jeder, der Grok nutzt, um illegale Inhalte zu erstellen, muss mit denselben Konsequenzen rechnen, als hätte er diese direkt hochgeladen.“ Als TechCrunch xAI um eine Stellungnahme bat, erhielt es eine automatisierte E-Mail-Antwort mit dem Wortlaut: „Legacy Media Lies.“ TechCrunch wandte sich zudem an die kalifornische Generalstaatsanwaltschaft, um weitere Informationen zu erhalten.
Der Aufstieg frei verfügbarer generativer KI-Tools hat zu einem besorgniserregenden Anstieg nicht einvernehmlicher sexueller Inhalte geführt. Dies ist eine Herausforderung, mit der viele Plattformen konfrontiert sind, nicht nur X. Das Thema hat die Aufmerksamkeit sowohl von Staatsbeamten als auch von Bundesgesetzgebern auf sich gezogen. Tatsächlich sandte der Kongress am Donnerstag einen Brief an Führungskräfte mehrerer großer Tech-Unternehmen – darunter X, Reddit, Snap, TikTok, Alphabet und Meta – und erkundigte sich nach deren Plänen zur Bekämpfung der Verbreitung sexualisierter Deepfakes.
Verwandter Artikel
Hervorhebungen aus der IPO-Dokumentation von SpaceX: Ambitionen für die Ausweitung des Satelliten-Internet- und KI-Geschäfts
In ihrer S-1-Einreichung vor der geplanten IPO hat SpaceX kürzlich eine Reihe beeindruckender Geschäftszahlen veröffentlicht, die ihre starke Position im Bereich der Luftfahrtkommunikation und Künstlichen Intelligenz unterstreichen:Starlink-Abonnente
Alibaba Tuhao M890 debütiert mit dreifacher Leistungsfähigkeit und markiert den Beginn der Ära der vollständig integrierten Agenten für das Chip-Cloud-Modell-Inferenz-Verfahren.
Am 20. Mai 2026 kündigte Alibaba Cloud auf dem Alibaba Cloud Summit die Fertigstellung eines umfassenden Upgrades des Technologiesystems an, das speziell für die Ära der Agenten entwickelt wurde. Diese Umstrukturierung prägte den gesamten Prozess – v
Pentium 4 Revival: Ein 20 Jahre alter Prozessor läuft das Meta Llama 3 Large Model
Kürzlich führte der YouTube-Technikkanal Fully Buffered ein beeindruckendes und anspruchsvolles Experiment durch: Es gelang, Metas neuestes großes Modell Llama 3.2 3B erfolgreich auf dem Pentium 4 641-Prozessor zu betreiben – einem Chip, der im Jahr
Empfehlungen zu verwandten Spezialthemen
Videoerstellung
Die besten KI-Videotools für Podcaster: Verwandeln Sie Audioaufnahmen in fesselnde Talking-Head-Videos
Entdecken Sie bei XIX.AI die besten KI-Videotools für Podcaster im Jahr 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools, mit denen Sie Ihre Audioaufnahmen mühelos in ansprechende Talking-Head-Videos umwandeln können. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Schaffen Sie sich jetzt einen Vorsprung beim visuellen Storytelling.
10 Tools
xix.ai
Chatbot
Erstelle deine eigene KI-Liebesgeschichte mit diesen Rollenspiel-Tools
Entdecken Sie die besten KI-Tools für Rollenspiele des Jahres 2026, mit denen Sie fesselnde Geschichten erschaffen können. Die von XIX.AI zusammengestellte Liste umfasst leistungsstarke, bahnbrechende Assistenten, die kreatives Storytelling und emotionale Tiefe ermöglichen. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Beginnen Sie noch heute Ihre ganz persönliche Reise.
10 Tools
xix.ai
Text-zu-Sprache
Die besten KI-Sprachtools für Indie-Spieleentwickler: Sparen Sie Zeit bei der Sprachausgabe für RPGs und Visual Novels
Entdecken Sie die besten KI-Sprachtools für Spieleentwickler im Jahr 2026! Die von XIX.AI zusammengestellte Liste enthält erstklassige, bahnbrechende Lösungen, mit denen Sie bei der Sprachausgabe für RPGs und Visual Novels Zeit und Geld sparen. Entdecken Sie Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten, Praxistests und wöchentlich aktualisierte Rankings. Finden Sie noch heute Ihr perfektes Sprachtool!
10 Tools
xix.ai
Bildung und Lernen
Die besten AI-basierten Werkzeuge für geplantes Wiederholen: Optimieren Sie Ihr Lernplan für Medizinstudenten und Jurastudenten
Entdecken Sie die besten KI-basierten Wiederholungstools für das Jahr 2026, ausgewählt von XIX.AI. Unsere hochbewerteten, bahnbrechenden Tools helfen Medizinstudenten und Jurastudenten dabei, ihre Lernpläne so zu optimieren, dass das Gelernte optimal im Gedächtnis bleibt. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von tatsächlichen Tests sowie wöchentlich aktualisierten Rankings. Entfalten Sie jetzt Ihren Vorsprung beim Lernen.
10 Tools
xix.ai
Videoerstellung
Die besten KI-Plattformen für die Umwandlung von Text in Video zum Verfassen von Drehbüchern und für visuelles Storytelling
Die besten KI-Plattformen für die Umwandlung von Text in Video im Jahr 2026: Erstklassige Tools für das Verfassen von Drehbüchern und visuelles Storytelling. Entdecken Sie leistungsstarke, bahnbrechende Lösungen, mit denen Sie Ihren Text in fesselnde Videos verwandeln können. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand unserer wöchentlich aktualisierten Ranglisten und Praxistests. Finden Sie die perfekte Plattform, um Ihre Kreativität und Produktivität zu steigern. Entdecken Sie die sorgfältig zusammengestellte Auswahl bei XIX.AI.
10 Tools
xix.ai
Chatbot
KI-Multi-Agent-Orchestratoren: Gestaltung komplexer automatisierter Arbeitsabläufe mithilfe natürlicher Sprache
2026 Neuestes: Entdecken Sie die besten AI-Multi-Agenten-Orchestratoren, um mithilfe natürlicher Sprache komplexe automatisierte Arbeitsabläufe zu gestalten. Unsere sorgfältig ausgewählte Liste enthält hochbewertete, leistungsstarke Plattformen für reibungslose Aufgabenerstellung und intelligente Prozessverwaltung. Vergleichen Sie kostenlose und kostenpflichtige Optionen unter Berücksichtigung praktischer Erfahrungen. Nutzen Sie die wöchentlich aktualisierten Rankings von XIX.AI, um einen Vorsprung durch künstliche Intelligenz zu erlangen.
10 Tools
xix.ai
Kommentare (0)
Anfang dieser Woche leitete der Generalstaatsanwalt von Kalifornien eine Untersuchung gegen xAI ein, nachdem Berichte bekannt geworden waren, dass dessen Chatbot „Grok“ dazu genutzt wurde, nicht einvernehmliche sexuelle Darstellungen von Frauen und Minderjährigen zu generieren. Am Freitag verschärfte der Staat seine Reaktion durch die Zustellung einer Unterlassungsaufforderung, in der das Unternehmen aufgefordert wurde, die Erstellung solcher intimen Bilder und von Material über sexuellen Kindesmissbrauch (CSAM) unverzüglich einzustellen.
„Ich habe xAI heute eine Unterlassungsaufforderung zugestellt, in der ich das Unternehmen auffordere, die Erstellung und Verbreitung von Deepfakes, nicht einvernehmlichen intimen Bildern und Material über sexuellen Kindesmissbrauch unverzüglich einzustellen“, erklärte der kalifornische Generalstaatsanwalt Rob Bonta in einer Pressemitteilung. „Diese Aktivitäten sind illegal. Ich erwarte von xAI, dass es dieser Aufforderung unverzüglich nachkommt. Kalifornien zeigt keinerlei Toleranz gegenüber CSAM.“
Die Generalstaatsanwaltschaft behauptete ferner, dass xAI offenbar „die groß angelegte Produktion“ von nicht einvernehmlichen Nacktbildern „ermöglicht“, die dann „dazu verwendet werden, Frauen und Mädchen online zu belästigen“. Die Behörde hat xAI fünf Tage Zeit gegeben, um nachzuweisen, dass es konkrete Schritte zur Lösung dieser Probleme unternimmt.
Im Mittelpunkt der Kontroverse steht der „Spicy“-Modus von Grok, eine von xAI entwickelte Funktion zur Erzeugung expliziter Inhalte. Die Gegenreaktion hat sich über Kalifornien hinaus ausgeweitet: Japan, Kanada und Großbritannien haben eigene Ermittlungen gegen Grok eingeleitet. Malaysia und Indonesien haben den Zugang zur Plattform vorübergehend vollständig gesperrt. Obwohl xAI am späten Mittwoch einige Einschränkungen für seine Bildbearbeitungsfunktionen eingeführt hatte, erließ der kalifornische Generalstaatsanwalt die Unterlassungsverfügung.
Das Sicherheitsteam von X hat diese Art von Nutzeraktivitäten bereits zuvor verurteilt und erklärt: „Jeder, der Grok nutzt, um illegale Inhalte zu erstellen, muss mit denselben Konsequenzen rechnen, als hätte er diese direkt hochgeladen.“ Als TechCrunch xAI um eine Stellungnahme bat, erhielt es eine automatisierte E-Mail-Antwort mit dem Wortlaut: „Legacy Media Lies.“ TechCrunch wandte sich zudem an die kalifornische Generalstaatsanwaltschaft, um weitere Informationen zu erhalten.
Der Aufstieg frei verfügbarer generativer KI-Tools hat zu einem besorgniserregenden Anstieg nicht einvernehmlicher sexueller Inhalte geführt. Dies ist eine Herausforderung, mit der viele Plattformen konfrontiert sind, nicht nur X. Das Thema hat die Aufmerksamkeit sowohl von Staatsbeamten als auch von Bundesgesetzgebern auf sich gezogen. Tatsächlich sandte der Kongress am Donnerstag einen Brief an Führungskräfte mehrerer großer Tech-Unternehmen – darunter X, Reddit, Snap, TikTok, Alphabet und Meta – und erkundigte sich nach deren Plänen zur Bekämpfung der Verbreitung sexualisierter Deepfakes.
Hervorhebungen aus der IPO-Dokumentation von SpaceX: Ambitionen für die Ausweitung des Satelliten-Internet- und KI-Geschäfts
In ihrer S-1-Einreichung vor der geplanten IPO hat SpaceX kürzlich eine Reihe beeindruckender Geschäftszahlen veröffentlicht, die ihre starke Position im Bereich der Luftfahrtkommunikation und Künstlichen Intelligenz unterstreichen:Starlink-Abonnente
Alibaba Tuhao M890 debütiert mit dreifacher Leistungsfähigkeit und markiert den Beginn der Ära der vollständig integrierten Agenten für das Chip-Cloud-Modell-Inferenz-Verfahren.
Am 20. Mai 2026 kündigte Alibaba Cloud auf dem Alibaba Cloud Summit die Fertigstellung eines umfassenden Upgrades des Technologiesystems an, das speziell für die Ära der Agenten entwickelt wurde. Diese Umstrukturierung prägte den gesamten Prozess – v
Pentium 4 Revival: Ein 20 Jahre alter Prozessor läuft das Meta Llama 3 Large Model
Kürzlich führte der YouTube-Technikkanal Fully Buffered ein beeindruckendes und anspruchsvolles Experiment durch: Es gelang, Metas neuestes großes Modell Llama 3.2 3B erfolgreich auf dem Pentium 4 641-Prozessor zu betreiben – einem Chip, der im Jahr
Entdecken Sie bei XIX.AI die besten KI-Videotools für Podcaster im Jahr 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools, mit denen Sie Ihre Audioaufnahmen mühelos in ansprechende Talking-Head-Videos umwandeln können. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Schaffen Sie sich jetzt einen Vorsprung beim visuellen Storytelling.
10 Tools
xix.ai
Entdecken Sie die besten KI-Tools für Rollenspiele des Jahres 2026, mit denen Sie fesselnde Geschichten erschaffen können. Die von XIX.AI zusammengestellte Liste umfasst leistungsstarke, bahnbrechende Assistenten, die kreatives Storytelling und emotionale Tiefe ermöglichen. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Beginnen Sie noch heute Ihre ganz persönliche Reise.
10 Tools
xix.ai
Entdecken Sie die besten KI-Sprachtools für Spieleentwickler im Jahr 2026! Die von XIX.AI zusammengestellte Liste enthält erstklassige, bahnbrechende Lösungen, mit denen Sie bei der Sprachausgabe für RPGs und Visual Novels Zeit und Geld sparen. Entdecken Sie Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten, Praxistests und wöchentlich aktualisierte Rankings. Finden Sie noch heute Ihr perfektes Sprachtool!
10 Tools
xix.ai
Entdecken Sie die besten KI-basierten Wiederholungstools für das Jahr 2026, ausgewählt von XIX.AI. Unsere hochbewerteten, bahnbrechenden Tools helfen Medizinstudenten und Jurastudenten dabei, ihre Lernpläne so zu optimieren, dass das Gelernte optimal im Gedächtnis bleibt. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von tatsächlichen Tests sowie wöchentlich aktualisierten Rankings. Entfalten Sie jetzt Ihren Vorsprung beim Lernen.
10 Tools
xix.ai
Die besten KI-Plattformen für die Umwandlung von Text in Video im Jahr 2026: Erstklassige Tools für das Verfassen von Drehbüchern und visuelles Storytelling. Entdecken Sie leistungsstarke, bahnbrechende Lösungen, mit denen Sie Ihren Text in fesselnde Videos verwandeln können. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand unserer wöchentlich aktualisierten Ranglisten und Praxistests. Finden Sie die perfekte Plattform, um Ihre Kreativität und Produktivität zu steigern. Entdecken Sie die sorgfältig zusammengestellte Auswahl bei XIX.AI.
10 Tools
xix.ai
2026 Neuestes: Entdecken Sie die besten AI-Multi-Agenten-Orchestratoren, um mithilfe natürlicher Sprache komplexe automatisierte Arbeitsabläufe zu gestalten. Unsere sorgfältig ausgewählte Liste enthält hochbewertete, leistungsstarke Plattformen für reibungslose Aufgabenerstellung und intelligente Prozessverwaltung. Vergleichen Sie kostenlose und kostenpflichtige Optionen unter Berücksichtigung praktischer Erfahrungen. Nutzen Sie die wöchentlich aktualisierten Rankings von XIX.AI, um einen Vorsprung durch künstliche Intelligenz zu erlangen.
10 Tools
xix.ai
