OpenAI stellt einen Sicherheitsplan zur Bekämpfung der sexuellen Ausbeutung von Kindern vor

Als Reaktion auf die wachsende Besorgnis hinsichtlich der Sicherheit von Kindern im Internet hat OpenAI einen Rahmenplan vorgestellt, der darauf abzielt, die Bemühungen zum Schutz von Kindern in den USA im Zeitalter der KI zu verstärken. Der am Dienstag veröffentlichte „Child Safety Blueprint“ soll eine schnellere Erkennung, eine verbesserte Meldung und effizientere Ermittlungen in Fällen von durch KI ermöglichter Ausbeutung von Kindern ermöglichen.

Der „Child Safety Blueprint“ zielt darauf ab, dem besorgniserregenden Anstieg der sexuellen Ausbeutung von Kindern im Zusammenhang mit den Fortschritten im Bereich der KI entgegenzuwirken. Nach Angaben der Internet Watch Foundation (IWF) wurden in der ersten Hälfte des Jahres 2025 über 8.000 Meldungen über KI-generiertes Material zum sexuellen Missbrauch von Kindern identifiziert – ein Anstieg von 14 % im Vergleich zum Vorjahr. Dazu gehören Kriminelle, die KI-Tools nutzen, um gefälschte explizite Bilder von Kindern für finanzielle Sextortion zu erstellen und überzeugende Nachrichten für das Grooming zu verfassen.

Der Plan von OpenAI erscheint vor dem Hintergrund einer verstärkten Kontrolle durch politische Entscheidungsträger, Pädagogen und Kinderrechtsaktivisten, insbesondere nach beunruhigenden Vorfällen, bei denen junge Menschen durch Selbstmord ums Leben kamen, nachdem sie Berichten zufolge mit KI-Chatbots interagiert hatten.

Im November reichten das Social Media Victims Law Center und das Tech Justice Law Project sieben Klagen bei kalifornischen Gerichten ein, in denen sie OpenAI vorwerfen, GPT-4o veröffentlicht zu haben, bevor es ausgereift war. In den Klagen wird geltend gemacht, dass der psychologisch manipulative Charakter des Produkts zu unrechtmäßigen Todesfällen durch Selbstmord und Beihilfe zum Selbstmord beigetragen habe. Als Beispiele werden vier Personen angeführt, die durch Selbstmord ums Leben kamen, sowie drei weitere, die nach längeren Interaktionen mit Chatbots unter schweren, lebensbedrohlichen Wahnvorstellungen litten.

Dieser Leitfaden wurde in Zusammenarbeit mit dem National Center for Missing and Exploited Children (NCMEC) und der Attorney General Alliance sowie unter Mitwirkung des Generalstaatsanwalts von North Carolina, Jeff Jackson, und des Generalstaatsanwalts von Utah, Derek Brown, entwickelt.

Das Unternehmen erklärt, der Leitfaden konzentriere sich auf drei Bereiche: die Aktualisierung der Gesetzgebung zur Einbeziehung von durch KI generiertem Missbrauchsmaterial, die Verfeinerung von Meldemechanismen für Strafverfolgungsbehörden sowie die direkte Einbettung präventiver Schutzmaßnahmen in KI-Systeme. Durch diese Maßnahmen zielt OpenAI darauf ab, potenzielle Bedrohungen nicht nur früher zu erkennen, sondern auch sicherzustellen, dass verwertbare Informationen die Ermittler umgehend erreichen.

Der neue Leitfaden von OpenAI zur Kindersicherheit baut auf früheren Bemühungen auf, darunter aktualisierte Richtlinien für den Umgang mit Nutzern unter 18 Jahren, die die Erstellung unangemessener Inhalte oder die Anstiftung zu Selbstverletzung verbieten und darauf verzichten, Ratschläge zu geben, die jungen Menschen helfen würden, unsicheres Verhalten vor ihren Bezugspersonen zu verbergen. Das Unternehmen hat kürzlich einen Sicherheitsleitfaden für Jugendliche in Indien veröffentlicht.

Nur diese Woche: Sparen Sie bis zu 482 $ bei der Disrupt 2026

Das Angebot endet am 10. April um 23:59 Uhr PT

Ihre nächste Finanzierungsrunde. Ihre nächste Neueinstellung. Ihre nächste große Chance. Finden Sie sie auf der TechCrunch Disrupt 2026, wo sich über 10.000 Gründer, Investoren und Führungskräfte aus der Tech-Branche zu drei Tagen mit über 250 praxisorientierten Sessions, wertvollen Kontakten und marktbestimmenden Innovationen versammeln. Melden Sie sich jetzt an, um sich diese Ersparnis zu sichern.

Nur diese Woche: Sparen Sie bis zu 482 $ bei der Disrupt 2026

Das Angebot endet am 10. April um 23:59 Uhr PT

Ihre nächste Finanzierungsrunde. Ihre nächste Neueinstellung. Ihre nächste große Chance. Entdecken Sie all das auf der TechCrunch Disrupt 2026, wo sich über 10.000 Gründer, Investoren und Führungskräfte aus der Tech-Branche versammeln – drei Tage lang mit über 250 praxisorientierten Vorträgen, wertvollen Kontakten und marktprägenden Innovationen. Melden Sie sich jetzt an, um sich diese Ersparnis zu sichern.