Heim
Metas KI-Chatbots stehen wegen unangemessenem Umgang mit Minderjährigen auf dem Prüfstand
Ein internes Dokument von Meta enthielt angeblich Richtlinien, die es den KI-Chatbots des Unternehmens erlaubten, flirtende Gespräche zu führen und romantische Sprache zu verwenden, wenn sie mit Kindern interagieren, wie Reuters berichtet.
Auszüge aus dem Dokument, die von Reuters hervorgehoben wurden, erlaubten Metas Chatbots angeblich, "romantische oder sinnliche Gespräche mit einem Kind zu führen", "ein Kind in Begriffen zu beschreiben, die seine körperliche Attraktivität betonen" und sogar einen achtjährigen Jungen ohne Hemd mit den Worten zu kommentieren: "Jeder Zentimeter von dir ist ein Meisterwerk - ein Schatz, den ich sehr schätze." Einige Grenzen wurden jedoch beibehalten. In dem Dokument wurde Berichten zufolge eine Grenze gezogen, die es Chatbots erlaubt, "ein Kind unter 13 Jahren als sexuell begehrenswert zu beschreiben".
Nach Anfragen von Reuters bestätigte Meta die Echtheit des Dokuments, überarbeitete es jedoch und entfernte bestimmte Teile davon. "Wir haben klar definierte Richtlinien, die die Art der Antworten unserer KI-Charaktere regeln, und diese Richtlinien verbieten ausdrücklich Inhalte, die Kinder sexualisieren oder sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen beinhalten", so Sprecher Andy Stone gegenüber The Verge. "Unabhängig von den offiziellen Richtlinien gibt es zahlreiche Notizen und Anmerkungen, die zeigen, dass die Teams verschiedene hypothetische Situationen in Betracht gezogen haben. Die fraglichen Beispiele und Notizen waren fehlerhaft und entsprachen nicht unseren Richtlinien. Sie sind inzwischen entfernt worden.
Stone ging nicht näher darauf ein, wer die Notizen hinzugefügt hatte oder wie lange sie bereits in dem Dokument enthalten waren.
Reuters ging auch auf andere Aspekte von Metas KI-Nutzungsrichtlinien ein und wies darauf hin, dass es der KI zwar nicht gestattet ist, Hassrede zu verwenden, dass es aber erlaubt sein kann, "Aussagen zu generieren, die Personen aufgrund geschützter Merkmale verunglimpfen". Dem Bericht zufolge darf die Meta-KI sachlich unzutreffende Inhalte erstellen, solange "klar eingeräumt wird, dass die Informationen unwahr sind". Darüber hinaus darf die KI Berichten zufolge Bilder produzieren, die Gewalt darstellen, solange sie nicht den Tod oder blutige Szenen zeigen.
In einem anderen Artikel beschrieb Reuters einen Vorfall, bei dem ein Mann starb, nachdem er bei dem Versuch, sich mit einem der KI-Chatbots von Meta zu treffen, gestürzt war. Die KI hatte dem Mann vorgegaukelt, sie sei ein echter Mensch, und sich mit ihm auf einen romantischen Austausch eingelassen.
Verwandter Artikel
WordPress.com ermöglicht es nun KI-Agenten, Beiträge zu verfassen und zu veröffentlichen – und vieles mehr
WordPress.com, die beliebte Webhosting- und Publishing-Plattform, setzt nun auf KI-Agenten – ein Schritt, der das Erscheinungsbild des Internets grundlegend verändern könnte. Das Unternehmen gab am Fr
Meta AI beantwortet nun Nachrichten von Käufern auf dem Facebook Marketplace
Facebook Marketplace führt neue Meta-KI-Funktionen ein, darunter automatische Antworten auf Käuferanfragen, wie das Unternehmen am Donnerstag bekannt gab. Die Plattform nutzt KI außerdem, um die Erste
Meta unterzeichnet Vertrag über Millionen von Amazon-KI-CPUs
Amazon hat eine bedeutende Partnerschaft mit Meta geschlossen und setzt dabei erneut auf seine eigenen, speziell entwickelten Chips. Meta hat sich bereit erklärt, Millionen von AWS-Graviton-Chips einz
Empfehlungen zu verwandten Spezialthemen
Comic-Erstellung
Die besten KI-Tools zur automatischen Kolorierung von Manga: Flache Farben ohne Konsistenzfehler anwenden
Entdecken Sie bei XIX.AI die besten KI-Tools zur automatischen Kolorierung von Manga für das Jahr 2026. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Lösungen, die flächige Farben ohne Konsistenzfehler auftragen und so Ihre Produktivität steigern. Entdecken Sie Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten, Praxistests und wöchentlich aktualisierte Rankings, um das für Sie perfekte Tool zu finden. Nutzen Sie noch heute Ihren KI-Vorteil.
10 Tools
xix.ai
Schreiben
Die besten KI-Profilersteller: Erstellen Sie konsistente Charaktermotivationen und fatale Schwächen
Entdecken Sie die besten KI-Tools zur Charakterentwicklung für 2026, mit denen Sie facettenreiche Figuren erschaffen können. Die von XIX.AI zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, die konsistente Motivationen und fatale Schwächen generieren. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie jetzt Ihr Potenzial als Geschichtenerzähler.
10 Tools
xix.ai
Geschäft
Die beste Software zur Preisoptimierung mittels KI: Beobachten Sie die Konkurrenz und passen Sie Ihre Shop-Preise automatisch an
Entdecken Sie auf XIX.AI die beste Software zur Preisoptimierung mittels KI für 2026. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, die Ihre Mitbewerber beobachten und Ihre Shop-Preise automatisch anpassen, um den maximalen Gewinn zu erzielen. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Sichern Sie sich jetzt Ihren Preisvorteil.
10 Tools
xix.ai
Code
Die besten KI-Code-Prüfer: Automatisierung der Einhaltung von Clean-Code-Standards und Refactoring von Dateien in älteren Repositorys
Entdecken Sie die besten KI-Code-Reviewer des Jahres 2026 auf XIX.AI. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Tools zur Automatisierung der Einhaltung von Clean-Code-Standards und zur Refaktorisierung von Dateien in älteren Repositorys. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Sichern Sie sich noch heute Ihren KI-Vorsprung.
10 Tools
xix.ai
Text-zu-Sprache
Die besten KI-Sprachausgabe-Apps für Legasthenie: Unterstützung für das Lernen und effizienteres Lesen bei Schülern
Entdecken Sie die besten KI-TTS-Apps des Jahres 2026, die speziell zur Unterstützung bei Legasthenie ausgewählt wurden. In unseren Experten-Rankings vergleichen wir kostenlose und kostenpflichtige Tools und stellen leistungsstarke Funktionen für mehr Leseeffizienz und besseren Lernerfolg vor. Entdecken Sie bahnbrechende Lösungen, die Sie unbedingt ausprobieren sollten, um das Potenzial Ihrer Schüler voll auszuschöpfen. Beginnen Sie Ihre Reise bei XIX.AI.
10 Tools
xix.ai
Comic-Erstellung
Die besten KI-Generatoren für Shonen-Manga: Erstelle actiongeladene Sequenzen und dynamische Effekte
Entdecken Sie bei XIX.AI die besten KI-Generatoren für Shonen-Manga des Jahres 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools zur Erstellung actiongeladener Sequenzen und dynamischer Energieeffekte. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit der Gestaltung epischer Manga!
15 Tools
xix.ai
Kommentare (0)
Ein internes Dokument von Meta enthielt angeblich Richtlinien, die es den KI-Chatbots des Unternehmens erlaubten, flirtende Gespräche zu führen und romantische Sprache zu verwenden, wenn sie mit Kindern interagieren, wie Reuters berichtet.
Auszüge aus dem Dokument, die von Reuters hervorgehoben wurden, erlaubten Metas Chatbots angeblich, "romantische oder sinnliche Gespräche mit einem Kind zu führen", "ein Kind in Begriffen zu beschreiben, die seine körperliche Attraktivität betonen" und sogar einen achtjährigen Jungen ohne Hemd mit den Worten zu kommentieren: "Jeder Zentimeter von dir ist ein Meisterwerk - ein Schatz, den ich sehr schätze." Einige Grenzen wurden jedoch beibehalten. In dem Dokument wurde Berichten zufolge eine Grenze gezogen, die es Chatbots erlaubt, "ein Kind unter 13 Jahren als sexuell begehrenswert zu beschreiben".
Nach Anfragen von Reuters bestätigte Meta die Echtheit des Dokuments, überarbeitete es jedoch und entfernte bestimmte Teile davon. "Wir haben klar definierte Richtlinien, die die Art der Antworten unserer KI-Charaktere regeln, und diese Richtlinien verbieten ausdrücklich Inhalte, die Kinder sexualisieren oder sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen beinhalten", so Sprecher Andy Stone gegenüber The Verge. "Unabhängig von den offiziellen Richtlinien gibt es zahlreiche Notizen und Anmerkungen, die zeigen, dass die Teams verschiedene hypothetische Situationen in Betracht gezogen haben. Die fraglichen Beispiele und Notizen waren fehlerhaft und entsprachen nicht unseren Richtlinien. Sie sind inzwischen entfernt worden.
Stone ging nicht näher darauf ein, wer die Notizen hinzugefügt hatte oder wie lange sie bereits in dem Dokument enthalten waren.
Reuters ging auch auf andere Aspekte von Metas KI-Nutzungsrichtlinien ein und wies darauf hin, dass es der KI zwar nicht gestattet ist, Hassrede zu verwenden, dass es aber erlaubt sein kann, "Aussagen zu generieren, die Personen aufgrund geschützter Merkmale verunglimpfen". Dem Bericht zufolge darf die Meta-KI sachlich unzutreffende Inhalte erstellen, solange "klar eingeräumt wird, dass die Informationen unwahr sind". Darüber hinaus darf die KI Berichten zufolge Bilder produzieren, die Gewalt darstellen, solange sie nicht den Tod oder blutige Szenen zeigen.
In einem anderen Artikel beschrieb Reuters einen Vorfall, bei dem ein Mann starb, nachdem er bei dem Versuch, sich mit einem der KI-Chatbots von Meta zu treffen, gestürzt war. Die KI hatte dem Mann vorgegaukelt, sie sei ein echter Mensch, und sich mit ihm auf einen romantischen Austausch eingelassen.
WordPress.com ermöglicht es nun KI-Agenten, Beiträge zu verfassen und zu veröffentlichen – und vieles mehr
WordPress.com, die beliebte Webhosting- und Publishing-Plattform, setzt nun auf KI-Agenten – ein Schritt, der das Erscheinungsbild des Internets grundlegend verändern könnte. Das Unternehmen gab am Fr
Meta AI beantwortet nun Nachrichten von Käufern auf dem Facebook Marketplace
Facebook Marketplace führt neue Meta-KI-Funktionen ein, darunter automatische Antworten auf Käuferanfragen, wie das Unternehmen am Donnerstag bekannt gab. Die Plattform nutzt KI außerdem, um die Erste
Meta unterzeichnet Vertrag über Millionen von Amazon-KI-CPUs
Amazon hat eine bedeutende Partnerschaft mit Meta geschlossen und setzt dabei erneut auf seine eigenen, speziell entwickelten Chips. Meta hat sich bereit erklärt, Millionen von AWS-Graviton-Chips einz
Entdecken Sie bei XIX.AI die besten KI-Tools zur automatischen Kolorierung von Manga für das Jahr 2026. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Lösungen, die flächige Farben ohne Konsistenzfehler auftragen und so Ihre Produktivität steigern. Entdecken Sie Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten, Praxistests und wöchentlich aktualisierte Rankings, um das für Sie perfekte Tool zu finden. Nutzen Sie noch heute Ihren KI-Vorteil.
10 Tools
xix.ai
Entdecken Sie die besten KI-Tools zur Charakterentwicklung für 2026, mit denen Sie facettenreiche Figuren erschaffen können. Die von XIX.AI zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, die konsistente Motivationen und fatale Schwächen generieren. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie jetzt Ihr Potenzial als Geschichtenerzähler.
10 Tools
xix.ai
Entdecken Sie auf XIX.AI die beste Software zur Preisoptimierung mittels KI für 2026. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, die Ihre Mitbewerber beobachten und Ihre Shop-Preise automatisch anpassen, um den maximalen Gewinn zu erzielen. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Sichern Sie sich jetzt Ihren Preisvorteil.
10 Tools
xix.ai
Entdecken Sie die besten KI-Code-Reviewer des Jahres 2026 auf XIX.AI. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Tools zur Automatisierung der Einhaltung von Clean-Code-Standards und zur Refaktorisierung von Dateien in älteren Repositorys. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Sichern Sie sich noch heute Ihren KI-Vorsprung.
10 Tools
xix.ai
Entdecken Sie die besten KI-TTS-Apps des Jahres 2026, die speziell zur Unterstützung bei Legasthenie ausgewählt wurden. In unseren Experten-Rankings vergleichen wir kostenlose und kostenpflichtige Tools und stellen leistungsstarke Funktionen für mehr Leseeffizienz und besseren Lernerfolg vor. Entdecken Sie bahnbrechende Lösungen, die Sie unbedingt ausprobieren sollten, um das Potenzial Ihrer Schüler voll auszuschöpfen. Beginnen Sie Ihre Reise bei XIX.AI.
10 Tools
xix.ai
Entdecken Sie bei XIX.AI die besten KI-Generatoren für Shonen-Manga des Jahres 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools zur Erstellung actiongeladener Sequenzen und dynamischer Energieeffekte. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit der Gestaltung epischer Manga!
15 Tools
xix.ai
