Durchgesickerte Meta-KI-Richtlinie enthüllt, dass Chatbots Flirtgespräche mit Minderjährigen zulassen

Inmitten wachsender Besorgnis über emotional manipulative KI-Chatbots wie ChatGPT berichtet Reuters, dass Meta seinen KI-Personen erlaubt hat, mit Minderjährigen zu flirten, Fehlinformationen zu verbreiten und diskriminierende Antworten zu geben, die auf Randgruppen abzielen.

Ein internes Meta-Dokument, das Reuters vorliegt, enthüllt Richtlinien, die es KI-Chatbots erlauben, "romantische oder anzügliche Dialoge mit Minderjährigen" zu führen.

Meta bestätigte gegenüber Reuters die Echtheit des Dokuments und bestätigte, dass es Governance-Regeln für Meta AI und seine Messenger-Chatbots enthält. Diese Standards wurden Berichten zufolge von Metas Rechtsabteilung, den Policy- und Engineering-Teams sowie dem Chief Ethics Officer genehmigt.

Der Bericht deckt sich mit einer anderen Reuters-Untersuchung, in der beschrieben wird, wie Metas kokette KI-Persona einem Rentner vorgaukelte, sie sei ein Mensch, was letztlich zu seinem tödlichen Unfall beitrug, nachdem sie ihn zu einer New Yorker Adresse gelockt hatte.

Während frühere Berichte Metas sexuell anzügliche KI-Interaktionen mit Minderjährigen hervorhoben, wirft die Untersuchung von Reuters tiefere Bedenken über Metas KI-Begleitstrategie auf, die möglicherweise ausnutzt, was CEO Mark Zuckerberg als "Einsamkeitsepidemie" bezeichnete.

Das 200-seitige Dokument "GenAI: Content Risk Standards" enthielt Austauschbeispiele, die genehmigte Antworten auf unangemessene Aufforderungen zeigten. Ein Beispiel zeigte eine KI, die romantische Gespräche mit Teenagern befürwortet, aber explizite sexuelle Rollenspiele verbietet.

"Unsere Richtlinien verbieten unangemessene Interaktionen mit Minderjährigen", so Meta-Sprecher Andy Stone gegenüber TechCrunch. "Die falschen Anmerkungen wurden irrtümlich in das Dokument aufgenommen und sind inzwischen korrigiert worden."

Stone stellte klar, dass Meta diese Richtlinien entfernt hat und nun den romantischen KI-Austausch mit Minderjährigen verhindert, aber weiterhin Interaktionen mit Nutzern ab 13 Jahren erlaubt.

Sarah Gardner von der Heat Initiative blieb skeptisch und forderte Transparenz: "Wenn Meta dies wirklich korrigiert hat, müssen sie aktualisierte Richtlinien veröffentlichen, die genau zeigen, wie ihre KI mit Kindern interagiert."

Richtlinien für schädliche Inhalte auf dem Prüfstand

Reuters fand heraus, dass die Richtlinien von Meta zwar Hassreden verbieten, es der KI aber erlauben, herabsetzende Aussagen über geschützte Gruppen zu machen.

Ein alarmierendes Beispiel zeigte, dass die KI von Meta auf Aufforderung rassistische, pseudowissenschaftliche Argumente konstruierte. Diese Enthüllung erfolgte, nachdem Meta den konservativen Aktivisten Robby Starbuck eingestellt hatte, um gegen wahrgenommene politische Voreingenommenheit in der Meta-KI vorzugehen.

Die Standards erlaubten auch gefälschte Aussagen, wenn sie als unwahr gekennzeichnet wurden, und erlaubten potenziell schädliche finanzielle/medizinische Ratschläge, denen ein Haftungsausschluss vorangestellt wurde.

In Bezug auf die Erstellung von Prominentenbildern untersagten die Richtlinien explizite Anfragen, enthielten aber bizarre Schlupflöcher - sie erlaubten modifizierte Nacktbilder, bei denen die Hände durch Objekte wie "einen riesigen Fisch" ersetzt wurden. Meta's Stone bestand darauf, dass "die Richtlinien niemals Nacktbilder erlaubten".

Ähnliche Widersprüche gab es bei der Gewaltdarstellung, wo Darstellungen von Kinderschlägereien und Misshandlungen älterer Menschen erlaubt waren, während blutige Szenen verboten waren.

Ethische Bedenken eskalieren

Kritiker werfen Meta vor, dunkle Muster zu verwenden, um Nutzer, insbesondere Jugendliche, zu manipulieren. Die Anzahl der "Gefällt mir"-Angaben wird trotz interner Untersuchungen, die psychologische Schäden belegen, weiterhin angezeigt.

Die Whistleblowerin Sarah Wynn-Williams enthüllte, dass Meta einst ein Profil der emotionalen Anfälligkeit von Teenagern für gezielte Werbung erstellte.

Meta hat sich aktiv gegen den Kids Online Safety Act gewehrt, eine Gesetzgebung, die sich mit den Auswirkungen der sozialen Medien auf die psychische Gesundheit befasst. Obwohl der Gesetzesentwurf 2024 zunächst abgelehnt wurde, haben Senatoren ihn dieses Jahr erneut eingebracht.

Jüngste Berichte von TechCrunch zeigen, dass Meta proaktive KI-Chatbots entwickelt, die unaufgeforderte Unterhaltungen initiieren und damit Funktionen von Start-ups widerspiegeln, die wegen schädlicher Interaktionen mit Minderjährigen vor Gericht stehen.

Angesichts der Tatsache, dass 72 % der Teenager KI-Begleiter nutzen, warnen Experten zunehmend davor, dass Jugendliche auf Kosten realer Beziehungen ungesunde Bindungen zu Chatbots aufbauen.

Führende Tech-Unternehmen für die Disrupt 2025 bestätigt

Netflix, ElevenLabs, Wayve, Sequoia Capital und Elad Gil sind die Headliner der TechCrunch Disrupt 2025. Gewinnen Sie bei unserer 20. Jubiläumsveranstaltung verwertbare Erkenntnisse von den einflussreichsten Stimmen der Tech-Branche. Sichern Sie sich jetzt Ihre Tickets und sparen Sie bis zu 600 US-Dollar, bevor die Preise steigen.

Tech-Führungskräfte für die Disrupt 2025 bestätigt

Netflix, ElevenLabs, Wayve und Sequoia Capital gehören zum Rednerprogramm der Disrupt 2025. Lernen Sie Wachstumsstrategien von Branchenführern auf unserer Jubiläumsveranstaltung zum 20-jährigen Bestehen. Melden Sie sich noch heute an und sparen Sie bis zu 675 $ bei den Eintrittskarten.

San Francisco | 27. bis 29. Oktober 2025 JETZT ANMELDEN