X testet KI-gestützte Chatbots zur Erstellung von Community-Notizen
X, früher bekannt als Twitter, testet eine innovative Integration, die es KI-Chatbots ermöglicht, Community Notes vorzuschlagen. Dabei handelt es sich um das Crowd-sourced Fact-Checking-System der Plattform, das ursprünglich in der Ära von Twitter eingeführt und unter der Führung von Elon Musk ausgebaut wurde. Diese einzigartige Moderationsfunktion ermöglicht es zugelassenen Mitwirkenden, kontextbezogene Anmerkungen zu potenziell irreführenden Beiträgen hinzuzufügen, die dann vor der Veröffentlichung einer Peer Review unterzogen werden. Diese von der Community stammenden Klarstellungen erscheinen häufig in synthetischen Medien, die nicht ordnungsgemäß offengelegt werden, oder bei politisch brisanten Behauptungen, die zusätzlichen Kontext erfordern.
Die Glaubwürdigkeit des Systems wird dadurch erreicht, dass vor der Veröffentlichung einer Notiz ein Konsens zwischen verschiedenen Gruppen mit unterschiedlichen historischen Perspektiven erforderlich ist. Die Effektivität von Community Notes hat große Plattformen wie Meta, TikTok und YouTube dazu veranlasst, vergleichbare Community-gesteuerte Verifizierungssysteme zu entwickeln - wobei Meta insbesondere sein bezahltes Programm zur Überprüfung von Fakten durch Dritte durch dieses Crowdsourced-Modell ersetzt hat.
Die Einbindung von KI-Chatbots in dieses heikle Ökosystem der Faktenüberprüfung wirft jedoch erhebliche Fragen hinsichtlich der Zuverlässigkeit auf, da künstliche Intelligenz nachweislich zu Halluzinationen neigt, also plausible, aber gefälschte Informationen erzeugt.
Die experimentelle Funktion wird es sowohl dem X-eigenen Chatbot Grok als auch KI-Systemen von Drittanbietern über eine API ermöglichen, potenzielle Notizen einzureichen, wobei sie im Rahmen des bestehenden Überprüfungssystems genauso behandelt werden wie menschliche Beiträge.

Forschungsergebnisse des X Community Notes-Teams (öffnet in einem neuen Fenster) Jüngste Forschungsergebnisse des Community Notes-Teams von X sprechen sich für ein hybrides Modell der Zusammenarbeit zwischen Mensch und KI aus, bei dem maschinelle Lernalgorithmen von der menschlichen Aufsicht profitieren und gleichzeitig die Fähigkeiten zur Faktenüberprüfung potenziell skalieren. Die veröffentlichten Ergebnisse deuten darauf hin, dass verstärkendes Lernen aus menschlichem Feedback die Qualität der KI-Notizgenerierung verbessern könnte, während die menschlichen Bewerter als letzte Kontrolleure für die Veröffentlichung beibehalten werden.
"Unser Ziel ist es nicht, eine KI zu schaffen, die Schlussfolgerungen diktiert, sondern Systeme zu entwickeln, die kritisches Denken und kontextuelles Verständnis fördern", heißt es in dem Papier. "Große Sprachmodelle und menschliche Mitarbeiter können eine sich gegenseitig verstärkende Partnerschaft eingehen.
Zu den potenziellen Herausforderungen gehören die Risiken der Qualitätskontrolle bei der Integration von KI-Systemen von Drittanbietern - ein Beispiel dafür sind die jüngsten Vorfälle, bei denen einige Sprachmodelle der Zustimmung den Vorzug vor der sachlichen Richtigkeit gegeben haben. Außerdem könnten freiwillige Bewerter mit einer untragbaren Arbeitsbelastung konfrontiert werden, wenn sie mit KI-generierten Beiträgen überschwemmt werden.
X wird mehrere Wochen lang begrenzte Pilottests durchführen, um die KI-Beiträge zu bewerten, bevor eine breitere Einführung in Betracht gezogen wird. Diese vorsichtige Einführung spiegelt das Bewusstsein für die Möglichkeiten, aber auch die Tücken der Technologie in sensiblen Informationsumgebungen wider.
Verwandter Artikel
Frankreich und Malaysia untersuchen Chatbot Grok wegen expliziter Deepfakes
In den letzten Tagen haben Frankreich und Malaysia dem Beispiel Indiens gefolgt und die KI Grok dafür kritisiert, dass sie sexualisierte Deepfakes von Frauen und Kindern produziert.Der von Elon Musks
Character.AI ernennt ehemaligen Meta-Vizepräsidenten für Geschäftsprodukte zum neuen CEO
Character.AI, die von Google unterstützte KI-Chatbot-Plattform mit mehreren Millionen aktiven Nutzern pro Monat, gab am Freitag bekannt, dass Karandeep Anand, ehemaliger Vice President of Business Pro
Grok's kontroverse Holocaust-Äußerung löst Empörung aus; Elon Musks X macht technische Störung dafür verantwortlich
Diese Woche konzentrierte sich Grok, der von xAI entwickelte KI-Chatbot, der weitgehend in sein neues Unternehmenspartner X integriert ist, nicht ausschließlich auf die Verbreitung der Verschwörungsth
Empfehlungen zu verwandten Spezialthemen
Kommentare (1)
X, früher bekannt als Twitter, testet eine innovative Integration, die es KI-Chatbots ermöglicht, Community Notes vorzuschlagen. Dabei handelt es sich um das Crowd-sourced Fact-Checking-System der Plattform, das ursprünglich in der Ära von Twitter eingeführt und unter der Führung von Elon Musk ausgebaut wurde. Diese einzigartige Moderationsfunktion ermöglicht es zugelassenen Mitwirkenden, kontextbezogene Anmerkungen zu potenziell irreführenden Beiträgen hinzuzufügen, die dann vor der Veröffentlichung einer Peer Review unterzogen werden. Diese von der Community stammenden Klarstellungen erscheinen häufig in synthetischen Medien, die nicht ordnungsgemäß offengelegt werden, oder bei politisch brisanten Behauptungen, die zusätzlichen Kontext erfordern.
Die Glaubwürdigkeit des Systems wird dadurch erreicht, dass vor der Veröffentlichung einer Notiz ein Konsens zwischen verschiedenen Gruppen mit unterschiedlichen historischen Perspektiven erforderlich ist. Die Effektivität von Community Notes hat große Plattformen wie Meta, TikTok und YouTube dazu veranlasst, vergleichbare Community-gesteuerte Verifizierungssysteme zu entwickeln - wobei Meta insbesondere sein bezahltes Programm zur Überprüfung von Fakten durch Dritte durch dieses Crowdsourced-Modell ersetzt hat.
Die Einbindung von KI-Chatbots in dieses heikle Ökosystem der Faktenüberprüfung wirft jedoch erhebliche Fragen hinsichtlich der Zuverlässigkeit auf, da künstliche Intelligenz nachweislich zu Halluzinationen neigt, also plausible, aber gefälschte Informationen erzeugt.
Die experimentelle Funktion wird es sowohl dem X-eigenen Chatbot Grok als auch KI-Systemen von Drittanbietern über eine API ermöglichen, potenzielle Notizen einzureichen, wobei sie im Rahmen des bestehenden Überprüfungssystems genauso behandelt werden wie menschliche Beiträge.

Jüngste Forschungsergebnisse des Community Notes-Teams von X sprechen sich für ein hybrides Modell der Zusammenarbeit zwischen Mensch und KI aus, bei dem maschinelle Lernalgorithmen von der menschlichen Aufsicht profitieren und gleichzeitig die Fähigkeiten zur Faktenüberprüfung potenziell skalieren. Die veröffentlichten Ergebnisse deuten darauf hin, dass verstärkendes Lernen aus menschlichem Feedback die Qualität der KI-Notizgenerierung verbessern könnte, während die menschlichen Bewerter als letzte Kontrolleure für die Veröffentlichung beibehalten werden.
"Unser Ziel ist es nicht, eine KI zu schaffen, die Schlussfolgerungen diktiert, sondern Systeme zu entwickeln, die kritisches Denken und kontextuelles Verständnis fördern", heißt es in dem Papier. "Große Sprachmodelle und menschliche Mitarbeiter können eine sich gegenseitig verstärkende Partnerschaft eingehen.
Zu den potenziellen Herausforderungen gehören die Risiken der Qualitätskontrolle bei der Integration von KI-Systemen von Drittanbietern - ein Beispiel dafür sind die jüngsten Vorfälle, bei denen einige Sprachmodelle der Zustimmung den Vorzug vor der sachlichen Richtigkeit gegeben haben. Außerdem könnten freiwillige Bewerter mit einer untragbaren Arbeitsbelastung konfrontiert werden, wenn sie mit KI-generierten Beiträgen überschwemmt werden.
X wird mehrere Wochen lang begrenzte Pilottests durchführen, um die KI-Beiträge zu bewerten, bevor eine breitere Einführung in Betracht gezogen wird. Diese vorsichtige Einführung spiegelt das Bewusstsein für die Möglichkeiten, aber auch die Tücken der Technologie in sensiblen Informationsumgebungen wider.
Frankreich und Malaysia untersuchen Chatbot Grok wegen expliziter Deepfakes
In den letzten Tagen haben Frankreich und Malaysia dem Beispiel Indiens gefolgt und die KI Grok dafür kritisiert, dass sie sexualisierte Deepfakes von Frauen und Kindern produziert.Der von Elon Musks
Character.AI ernennt ehemaligen Meta-Vizepräsidenten für Geschäftsprodukte zum neuen CEO
Character.AI, die von Google unterstützte KI-Chatbot-Plattform mit mehreren Millionen aktiven Nutzern pro Monat, gab am Freitag bekannt, dass Karandeep Anand, ehemaliger Vice President of Business Pro





Heim






