Meta schränkt den Zugang von Jugendlichen zu KI-Charakteren vor dem Update ein

Meta hat angekündigt, den Zugang von Jugendlichen zu seinen KI-Charakteren in allen seinen Apps weltweit vorübergehend auszusetzen. Das Unternehmen stellte gegenüber TechCrunch klar, dass dies keine Aufgabe der Funktion sei, sondern ein Schritt zur Entwicklung einer aktualisierten Version, die speziell für jüngere Nutzer konzipiert ist.

Diese Entscheidung fällt nur wenige Tage vor Beginn eines Gerichtsverfahrens in New Mexico, wo Meta vorgeworfen wird, Kinder auf seinen Plattformen nicht vor sexueller Ausbeutung geschützt zu haben. Ein kürzlich erschienener Bericht von Wired wies zudem auf Metas Bemühungen hin, die Offenlegung von Informationen bezüglich der Auswirkungen sozialer Medien auf die psychische Gesundheit von Jugendlichen einzuschränken.

Im vergangenen Oktober stellte Meta eine Vorschau auf die Kindersicherung für seine KI-Charaktere vor, die es Erziehungsberechtigten ermöglicht, Themen zu überwachen und den Zugang zu bestimmten Charakteren zu sperren, mit der Option, Chats vollständig zu deaktivieren. Während diese Funktionen eigentlich noch in diesem Jahr veröffentlicht werden sollten, deaktiviert Meta nun vorübergehend den gesamten Zugang zu KI-Charakteren für Jugendliche, während das Unternehmen an der neuen Version arbeitet.

Das Unternehmen erklärte, dass das Feedback von Eltern, die sich mehr Einblick und Kontrolle über die Interaktionen ihrer Teenager mit KI wünschten, diese Richtlinienänderung direkt beeinflusst habe.

Meta hat die Beschränkungen für den Zugang von Jugendlichen zu KI-Inhalten schrittweise verschärft. Ebenfalls im Oktober führte das Unternehmen auf Instagram Kindersicherungen ein, die sich an der Altersfreigabe „PG-13“ für Filme orientieren, um das KI-Erlebnis für Jugendliche anzupassen, indem der Zugriff auf Themen wie extreme Gewalt, Nacktheit und explizite Darstellungen von Drogenkonsum eingeschränkt wird.

„Ab den kommenden Wochen werden Jugendliche in unseren Apps keinen Zugriff mehr auf KI-Charaktere haben, bis die aktualisierte Version bereitsteht. Dies gilt für alle, die uns ein jugendliches Geburtsdatum angegeben haben, sowie für Personen, die angeben, volljährig zu sein, bei denen wir jedoch aufgrund unserer Altersvorhersagetechnologie vermuten, dass sie noch minderjährig sind“, teilte das Unternehmen in einem aktualisierten Blogbeitrag mit.

Meta fügte hinzu, dass die kommenden KI-Charaktere über integrierte Kindersicherungen verfügen werden. Diese neuen Charaktere sind darauf ausgelegt, altersgerechte Antworten zu geben, wobei der Schwerpunkt auf geeigneten Themen wie Bildung, Sport und Hobbys liegt.

Soziale Medien stehen unter intensiver behördlicher Kontrolle. Über den Fall in New Mexico hinaus bereitet sich Meta auf einen weiteren Prozess nächste Woche vor, in dem dem Unternehmen vorgeworfen wird, zur Social-Media-Sucht beizutragen. Es wird erwartet, dass CEO Mark Zuckerberg aussagen wird, sobald der Prozess beginnt.

Der Druck erstreckt sich über die sozialen Medien hinaus auf KI-Unternehmen, die ihre Dienste nach Klagen ebenfalls an jüngere Nutzer angepasst haben. Im Oktober verbot Character.AI, das Nutzern das Chatten mit verschiedenen KI-Avataren ermöglicht, offene Chatbot-Gespräche für Nutzer unter 18 Jahren und kündigte später Pläne für interaktive Geschichten für Kinder an. Vor kurzem führte OpenAI neue Sicherheitsregeln für Jugendliche bei ChatGPT ein und begann, Altersvorhersagen zur Anwendung von Inhaltsbeschränkungen zu nutzen.

Korrektur: Dieser Beitrag wurde aktualisiert, um zu verdeutlichen, dass die neue Version der KI-Charaktere bei ihrer Einführung für alle zugänglich sein wird, nicht nur für Jugendliche. Sie wird Kindersicherungsfunktionen enthalten.