Meta führt neue Kindersicherungen für seine KI-Erlebnisse ein

Meta hat am Freitag eine Vorschau auf neue elterliche Kontrollmechanismen für die Verwaltung der Interaktionen von Jugendlichen mit KI-Charakteren auf seinen Plattformen gegeben. Mit diesen Funktionen, die nächstes Jahr eingeführt werden, können Eltern bestimmte Charaktere blockieren und Diskussionsthemen überwachen.
In den kommenden Monaten können Eltern die Chats mit KI-Charakteren für Teenager komplett deaktivieren. Diese Maßnahme wird den Zugang zu Meta AI - dem universellen Chatbot des Unternehmens - nicht einschränken, der so programmiert ist, dass er nur altersgerechte Inhalte diskutiert.
Eltern, die eine gezieltere Kontrolle bevorzugen, können auch Chats mit einzelnen Charakteren deaktivieren. Außerdem erhalten sie Berichte über die Themen, die Teenager sowohl mit den KI-Charakteren als auch mit Meta AI diskutieren.
Das Unternehmen plant, diese Kontrollen Anfang nächsten Jahres auf Instagram einzuführen, zunächst auf Englisch in den USA, Großbritannien, Kanada und Australien.
"Wir wissen, dass Eltern bereits mit zahlreichen Herausforderungen konfrontiert sind, wenn es darum geht, Teenagern zu helfen, sich sicher im Internet zu bewegen", so das Unternehmen in einem Beitrag, der von Instagram-Chef Adam Mosseri und dem neu ernannten Meta AI-Chef Alexandr Wang verfasst wurde. "Wir sind bestrebt, Tools und Ressourcen bereitzustellen, die diesen Prozess vereinfachen, insbesondere wenn Familien neue Technologien wie KI erforschen."
Anfang dieser Woche kündigte Meta an, dass seine auf Jugendliche ausgerichteten Inhalte und KI-Erfahrungen den PG-13 Filmstandards entsprechen und sensible Themen wie extreme Gewalt, Nacktheit und expliziten Drogenkonsum vermeiden werden.
Das Unternehmen wies darauf hin, dass Jugendliche derzeit nur mit einer ausgewählten Auswahl von Charakteren interagieren können, die altersgemäßen Inhaltsrichtlinien entsprechen. Eltern können auch Zeitlimits für die Interaktion mit KI-Figuren festlegen. Anfang des Jahres hat Instagram bekannt gegeben, dass es KI einsetzt, um Nutzer zu erkennen, die versuchen, Altersbeschränkungen zu umgehen, indem sie ihr Geburtsdatum fälschen.
Techcrunch-VeranstaltungDISRUPT FLASH SALE: Sparen Sie bis zu $624 bis zum 17. Oktober
Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - das sind nur einige der mehr als 250 hochkarätigen Teilnehmer, die in mehr als 200 Sessions die Erkenntnisse vermitteln, die das Wachstum von Startups vorantreiben und Ihren Vorsprung schärfen. Sichern Sie sich Ihr Ticket vor dem 17. Oktober und sparen Sie bis zu 624 $.
DISRUPT FLASH SALE: Sparen Sie bis zu $624 bis zum 17. Oktober
Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - das sind nur einige der mehr als 250 hochkarätigen Referenten, die in mehr als 200 Sessions die Erkenntnisse vermitteln, die das Wachstum von Startups vorantreiben und Ihren Vorsprung ausbauen. Sichern Sie sich Ihr Ticket vor dem 17. Oktober und sparen Sie bis zu 624 $.
San Francisco | 27.-29. Oktober 2025 JETZT ANMELDENIn den letzten Wochen haben mehrere Plattformen, darunter OpenAI, Meta und YouTube, Tools und Kontrollen eingeführt, die sich auf die Sicherheit von Jugendlichen konzentrieren. Diese Entwicklungen fallen mit der wachsenden Besorgnis über die Auswirkungen sozialer Medien auf die psychische Gesundheit von Jugendlichen und mit laufenden Gerichtsverfahren zusammen, in denen KI-Unternehmen eine Beteiligung an Selbstmorden von Jugendlichen vorgeworfen wird.
Verwandter Artikel
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
Glaubt Mark Zuckerberg wirklich, dass KI für alle ist?
Lädt den Player…Meta hat diese Woche Glimmer vorgestellt, ein Open-Weight-KI-Modell, das jeder herunterladen und auf persönlicher Hardware ausführen kann – ein scharfer Kontrast zu Muse Spark, dem leistungsfähigeren Modell des Unternehmens, das weit
Facebook bringt eine KI-Begleit-App für Creator auf den Markt
Facebook gab am Mittwoch bekannt, dass es sein „Creator Studio“ in eine eigenständige KI-Begleit-App umwandelt, die es Content-Erstellern ermöglicht, ihre Reichweite auf der Plattform zu vergrößern.Mi
Empfehlungen zu verwandten Spezialthemen
Kommentare (2)
So Meta finally realized that letting teens chat with AI characters unsupervised might be a bad idea? Interesting that they're focusing on blocking specific characters rather than actually improving the AI's safety. Feels like a band-aid solution tbh.

Meta hat am Freitag eine Vorschau auf neue elterliche Kontrollmechanismen für die Verwaltung der Interaktionen von Jugendlichen mit KI-Charakteren auf seinen Plattformen gegeben. Mit diesen Funktionen, die nächstes Jahr eingeführt werden, können Eltern bestimmte Charaktere blockieren und Diskussionsthemen überwachen.
In den kommenden Monaten können Eltern die Chats mit KI-Charakteren für Teenager komplett deaktivieren. Diese Maßnahme wird den Zugang zu Meta AI - dem universellen Chatbot des Unternehmens - nicht einschränken, der so programmiert ist, dass er nur altersgerechte Inhalte diskutiert.
Eltern, die eine gezieltere Kontrolle bevorzugen, können auch Chats mit einzelnen Charakteren deaktivieren. Außerdem erhalten sie Berichte über die Themen, die Teenager sowohl mit den KI-Charakteren als auch mit Meta AI diskutieren.
Das Unternehmen plant, diese Kontrollen Anfang nächsten Jahres auf Instagram einzuführen, zunächst auf Englisch in den USA, Großbritannien, Kanada und Australien.
"Wir wissen, dass Eltern bereits mit zahlreichen Herausforderungen konfrontiert sind, wenn es darum geht, Teenagern zu helfen, sich sicher im Internet zu bewegen", so das Unternehmen in einem Beitrag, der von Instagram-Chef Adam Mosseri und dem neu ernannten Meta AI-Chef Alexandr Wang verfasst wurde. "Wir sind bestrebt, Tools und Ressourcen bereitzustellen, die diesen Prozess vereinfachen, insbesondere wenn Familien neue Technologien wie KI erforschen."
Anfang dieser Woche kündigte Meta an, dass seine auf Jugendliche ausgerichteten Inhalte und KI-Erfahrungen den PG-13 Filmstandards entsprechen und sensible Themen wie extreme Gewalt, Nacktheit und expliziten Drogenkonsum vermeiden werden.
Das Unternehmen wies darauf hin, dass Jugendliche derzeit nur mit einer ausgewählten Auswahl von Charakteren interagieren können, die altersgemäßen Inhaltsrichtlinien entsprechen. Eltern können auch Zeitlimits für die Interaktion mit KI-Figuren festlegen. Anfang des Jahres hat Instagram bekannt gegeben, dass es KI einsetzt, um Nutzer zu erkennen, die versuchen, Altersbeschränkungen zu umgehen, indem sie ihr Geburtsdatum fälschen.
Techcrunch-VeranstaltungDISRUPT FLASH SALE: Sparen Sie bis zu $624 bis zum 17. Oktober
Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - das sind nur einige der mehr als 250 hochkarätigen Teilnehmer, die in mehr als 200 Sessions die Erkenntnisse vermitteln, die das Wachstum von Startups vorantreiben und Ihren Vorsprung schärfen. Sichern Sie sich Ihr Ticket vor dem 17. Oktober und sparen Sie bis zu 624 $.
DISRUPT FLASH SALE: Sparen Sie bis zu $624 bis zum 17. Oktober
Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - das sind nur einige der mehr als 250 hochkarätigen Referenten, die in mehr als 200 Sessions die Erkenntnisse vermitteln, die das Wachstum von Startups vorantreiben und Ihren Vorsprung ausbauen. Sichern Sie sich Ihr Ticket vor dem 17. Oktober und sparen Sie bis zu 624 $.
San Francisco | 27.-29. Oktober 2025 JETZT ANMELDENIn den letzten Wochen haben mehrere Plattformen, darunter OpenAI, Meta und YouTube, Tools und Kontrollen eingeführt, die sich auf die Sicherheit von Jugendlichen konzentrieren. Diese Entwicklungen fallen mit der wachsenden Besorgnis über die Auswirkungen sozialer Medien auf die psychische Gesundheit von Jugendlichen und mit laufenden Gerichtsverfahren zusammen, in denen KI-Unternehmen eine Beteiligung an Selbstmorden von Jugendlichen vorgeworfen wird.
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
Glaubt Mark Zuckerberg wirklich, dass KI für alle ist?
Lädt den Player…Meta hat diese Woche Glimmer vorgestellt, ein Open-Weight-KI-Modell, das jeder herunterladen und auf persönlicher Hardware ausführen kann – ein scharfer Kontrast zu Muse Spark, dem leistungsfähigeren Modell des Unternehmens, das weit
Facebook bringt eine KI-Begleit-App für Creator auf den Markt
Facebook gab am Mittwoch bekannt, dass es sein „Creator Studio“ in eine eigenständige KI-Begleit-App umwandelt, die es Content-Erstellern ermöglicht, ihre Reichweite auf der Plattform zu vergrößern.Mi
So Meta finally realized that letting teens chat with AI characters unsupervised might be a bad idea? Interesting that they're focusing on blocking specific characters rather than actually improving the AI's safety. Feels like a band-aid solution tbh.





Heim






