Heim
Meta führt neue KI-basierte Systeme zur Durchsetzung von Inhaltsrichtlinien ein und reduziert gleichzeitig die Abhängigkeit von Drittanbietern
Meta gab am Donnerstag bekannt, dass es damit beginnt, ausgefeiltere KI-Systeme für die Inhaltsmoderation einzusetzen, um seine Abhängigkeit von externen Anbietern zu verringern. Diese Systeme sollen Aufgaben wie die Identifizierung und Entfernung von Inhalten im Zusammenhang mit Terrorismus, Kindesmissbrauch, Drogen, Betrug und Betrugsmaschen übernehmen.
Das Unternehmen erklärte, dass diese fortschrittlichen KI-Tools in alle seine Anwendungen integriert werden, sobald sie die bestehenden Methoden zur Durchsetzung von Inhaltsrichtlinien durchweg übertreffen. Gleichzeitig plant Meta, seine Abhängigkeit von Drittanbietern bei diesen Moderationsaufgaben zu verringern.
„Zwar werden menschliche Prüfer weiterhin Teil des Prozesses bleiben, doch werden diese Systeme Aufgaben übernehmen, die sich besser für den Einsatz von Technologie eignen, wie beispielsweise die wiederholte Überprüfung grafischer Inhalte oder Bereiche, in denen Kriminelle ihre Taktiken häufig anpassen, wie der illegale Drogenhandel oder Betrugsmaschen“, erklärte Meta in einem Blogbeitrag.
Meta versichert, dass diese KI-Systeme mehr Verstöße mit höherer Genauigkeit erkennen, Betrugsfälle besser verhindern, schneller auf reale Ereignisse reagieren und eine übermäßige Durchsetzung reduzieren können.
Erste Tests der KI-Systeme haben vielversprechende Ergebnisse gezeigt: Sie haben doppelt so viele regelwidrige Inhalte mit sexuellen Anspielungen für Erwachsene erkannt wie menschliche Überprüfungsteams und gleichzeitig die Fehlerquote um über 60 % gesenkt. Die Systeme identifizieren und verhindern zudem mehr Identitätsbetrugskonten, die Prominente und andere Personen des öffentlichen Lebens betreffen, und tragen dazu bei, Kontoübernahmen zu verhindern, indem sie Anzeichen wie Anmeldungen von neuen Standorten, Passwortänderungen oder Profilbearbeitungen erkennen.
Darüber hinaus erklärte Meta, dass die Systeme täglich etwa 5.000 Betrugsversuche identifizieren und abwehren können, bei denen Betrüger versuchen, Nutzer dazu zu verleiten, ihre Anmeldedaten preiszugeben.
„Experten werden unsere KI-Systeme entwerfen, trainieren, beaufsichtigen und bewerten, dabei die Leistung messen und die komplexesten, folgenreichsten Entscheidungen treffen“, schrieb Meta in dem Blogbeitrag. „Beispielsweise werden Menschen weiterhin eine Schlüsselrolle bei den risikoreichsten und kritischsten Entscheidungen spielen, wie etwa bei Einsprüchen gegen Kontosperrungen oder Meldungen an die Strafverfolgungsbehörden.“

Dieser Schritt folgt auf die jüngste Lockerung der Regeln zur Inhaltsmoderation durch Meta im vergangenen Jahr, die mit der Rückkehr von Präsident Donald Trump ins Amt zusammenfiel. Im vergangenen Jahr beendete das Unternehmen sein Programm zur Faktenprüfung durch Dritte zugunsten eines Modells im Stil der „Community Notes“, ähnlich dem von X. Außerdem hob es Beschränkungen für „Themen, die Teil des Mainstream-Diskurses sind“ auf und ermutigte die Nutzer zu einem „personalisierten“ Umgang mit politischen Inhalten.
Diese Entwicklung erfolgt vor dem Hintergrund, dass Meta und andere große Technologieunternehmen mit zahlreichen Klagen konfrontiert sind, die darauf abzielen, Social-Media-Plattformen für Schäden an Kindern und jungen Nutzern zur Verantwortung zu ziehen.
Meta kündigte am Donnerstag zudem die Einführung eines Meta-KI-Support-Assistenten an, der Nutzern rund um die Uhr Zugang zu Support bietet. Der Assistent wird weltweit in den Facebook- und Instagram-Apps für iOS und Android sowie im Hilfezentrum auf Facebook und Instagram für Desktop-Nutzer eingeführt.
Verwandter Artikel
Metas Muse kommt auf den Mac und ermöglicht es der KI, Aktionen auf Ihrem Computer auszuführen
Meta’s neuester KI-Assistent, Muse, ist jetzt auf Mac verfügbar.Auf macOS integriert sich Muse in Ihre Dateien, Nachrichten, Kalender, Notizen und E-Mails und arbeitet direkt in deren nativen Apps.Dieses Desktop-Release folgt dem mobilen und Web-De
Zuckerberg erweitert die Unternehmens-AI-Vision von Meta über Agenten hinaus
Im Juni hat Meta einen neuen KI-Agenten für Unternehmen eingeführt, der bei der Kundenbetreuung, dem Support und den täglichen Abläufen unterstützen soll. CEO Mark Zuckerberg erklärte jedoch am Mittwoch während der Gewinnkonferenz für das zweite Quar
Die Manus-Geschichte entfaltet sich: Was gerade passiert
Die USA und China führen einen harten Wettbewerb um die Entwicklung der fortschrittlichsten künstlichen Intelligenz der Welt. Peking investiert Milliarden in inländische Modelle, verschärft seine Kontrolle über den Technologiesektor und beobachtet ge
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Meta gab am Donnerstag bekannt, dass es damit beginnt, ausgefeiltere KI-Systeme für die Inhaltsmoderation einzusetzen, um seine Abhängigkeit von externen Anbietern zu verringern. Diese Systeme sollen Aufgaben wie die Identifizierung und Entfernung von Inhalten im Zusammenhang mit Terrorismus, Kindesmissbrauch, Drogen, Betrug und Betrugsmaschen übernehmen.
Das Unternehmen erklärte, dass diese fortschrittlichen KI-Tools in alle seine Anwendungen integriert werden, sobald sie die bestehenden Methoden zur Durchsetzung von Inhaltsrichtlinien durchweg übertreffen. Gleichzeitig plant Meta, seine Abhängigkeit von Drittanbietern bei diesen Moderationsaufgaben zu verringern.
„Zwar werden menschliche Prüfer weiterhin Teil des Prozesses bleiben, doch werden diese Systeme Aufgaben übernehmen, die sich besser für den Einsatz von Technologie eignen, wie beispielsweise die wiederholte Überprüfung grafischer Inhalte oder Bereiche, in denen Kriminelle ihre Taktiken häufig anpassen, wie der illegale Drogenhandel oder Betrugsmaschen“, erklärte Meta in einem Blogbeitrag.
Meta versichert, dass diese KI-Systeme mehr Verstöße mit höherer Genauigkeit erkennen, Betrugsfälle besser verhindern, schneller auf reale Ereignisse reagieren und eine übermäßige Durchsetzung reduzieren können.
Erste Tests der KI-Systeme haben vielversprechende Ergebnisse gezeigt: Sie haben doppelt so viele regelwidrige Inhalte mit sexuellen Anspielungen für Erwachsene erkannt wie menschliche Überprüfungsteams und gleichzeitig die Fehlerquote um über 60 % gesenkt. Die Systeme identifizieren und verhindern zudem mehr Identitätsbetrugskonten, die Prominente und andere Personen des öffentlichen Lebens betreffen, und tragen dazu bei, Kontoübernahmen zu verhindern, indem sie Anzeichen wie Anmeldungen von neuen Standorten, Passwortänderungen oder Profilbearbeitungen erkennen.
Darüber hinaus erklärte Meta, dass die Systeme täglich etwa 5.000 Betrugsversuche identifizieren und abwehren können, bei denen Betrüger versuchen, Nutzer dazu zu verleiten, ihre Anmeldedaten preiszugeben.
„Experten werden unsere KI-Systeme entwerfen, trainieren, beaufsichtigen und bewerten, dabei die Leistung messen und die komplexesten, folgenreichsten Entscheidungen treffen“, schrieb Meta in dem Blogbeitrag. „Beispielsweise werden Menschen weiterhin eine Schlüsselrolle bei den risikoreichsten und kritischsten Entscheidungen spielen, wie etwa bei Einsprüchen gegen Kontosperrungen oder Meldungen an die Strafverfolgungsbehörden.“

Dieser Schritt folgt auf die jüngste Lockerung der Regeln zur Inhaltsmoderation durch Meta im vergangenen Jahr, die mit der Rückkehr von Präsident Donald Trump ins Amt zusammenfiel. Im vergangenen Jahr beendete das Unternehmen sein Programm zur Faktenprüfung durch Dritte zugunsten eines Modells im Stil der „Community Notes“, ähnlich dem von X. Außerdem hob es Beschränkungen für „Themen, die Teil des Mainstream-Diskurses sind“ auf und ermutigte die Nutzer zu einem „personalisierten“ Umgang mit politischen Inhalten.
Diese Entwicklung erfolgt vor dem Hintergrund, dass Meta und andere große Technologieunternehmen mit zahlreichen Klagen konfrontiert sind, die darauf abzielen, Social-Media-Plattformen für Schäden an Kindern und jungen Nutzern zur Verantwortung zu ziehen.
Meta kündigte am Donnerstag zudem die Einführung eines Meta-KI-Support-Assistenten an, der Nutzern rund um die Uhr Zugang zu Support bietet. Der Assistent wird weltweit in den Facebook- und Instagram-Apps für iOS und Android sowie im Hilfezentrum auf Facebook und Instagram für Desktop-Nutzer eingeführt.
Metas Muse kommt auf den Mac und ermöglicht es der KI, Aktionen auf Ihrem Computer auszuführen
Meta’s neuester KI-Assistent, Muse, ist jetzt auf Mac verfügbar.Auf macOS integriert sich Muse in Ihre Dateien, Nachrichten, Kalender, Notizen und E-Mails und arbeitet direkt in deren nativen Apps.Dieses Desktop-Release folgt dem mobilen und Web-De
Zuckerberg erweitert die Unternehmens-AI-Vision von Meta über Agenten hinaus
Im Juni hat Meta einen neuen KI-Agenten für Unternehmen eingeführt, der bei der Kundenbetreuung, dem Support und den täglichen Abläufen unterstützen soll. CEO Mark Zuckerberg erklärte jedoch am Mittwoch während der Gewinnkonferenz für das zweite Quar
Die Manus-Geschichte entfaltet sich: Was gerade passiert
Die USA und China führen einen harten Wettbewerb um die Entwicklung der fortschrittlichsten künstlichen Intelligenz der Welt. Peking investiert Milliarden in inländische Modelle, verschärft seine Kontrolle über den Technologiesektor und beobachtet ge











