Wikipedia gibt KI -Entwicklern seine Daten, um Bot -Scrapers abzuwehren

Wikipedias neue Strategie zur Verwaltung von KI-Datenscraping

Wikipedia, über die Wikimedia Foundation, unternimmt proaktive Schritte, um die Auswirkungen von KI-Datenscraping auf seine Server zu bewältigen. Am Mittwoch kündigten sie eine Zusammenarbeit mit Kaggle an, einer von Google betriebenen Plattform für Datenwissenschaft und maschinelles Lernen, um ein Beta-Datenset zu starten. Dieses Datenset enthält „strukturierte Wikipedia-Inhalte auf Englisch und Französisch“, die speziell für KI-Trainingszwecke zugeschnitten sind.

Das nun auf Kaggle verfügbare Datenset wurde mit Blick auf KI-Entwickler erstellt und vereinfacht den Zugriff auf maschinenlesbare Artikeldaten. Dazu gehören Forschungszusammenfassungen, Kurzbeschreibungen, Bildlinks, Infobox-Daten und verschiedene Artikelabschnitte. Wichtig ist, dass diese Daten offen lizenziert sind und keine Referenzen oder nicht-textuelle Elemente wie Audiodateien enthalten, um für KI-Anwendungsfälle wie Modellierung, Feinabstimmung und Benchmarking optimiert zu sein.

Wikimedias Ansatz bietet ein gut strukturiertes JSON-Format von Wikipedias Inhalten, das für KI-Entwickler eine attraktivere Option sein soll als das traditionelle Scraping oder Parsen von rohem Artikeltext. Dieser Schritt erfolgt teilweise als Reaktion auf die Belastung, die KI-Bots durch ihren Bandbreitenverbrauch auf Wikipedias Server ausüben.

Wikimedia hat bereits Inhalte-Sharing-Vereinbarungen mit Giganten wie Google und dem Internet Archive. Die Partnerschaft mit Kaggle soll diese Daten jedoch auch für kleinere Unternehmen und unabhängige Datenwissenschaftler zugänglicher machen und die Reichweite sowie den Nutzen von Wikipedias Inhalten erweitern.

Was Kaggle mitbringt

Brenda Flynn, Kaggles Partnerschaftsleiterin, zeigte sich begeistert, Wikimedias Daten zu hosten. „Als der Ort, an dem die Machine-Learning-Community nach Tools und Tests sucht, ist Kaggle extrem begeistert, der Host für die Daten der Wikimedia Foundation zu sein“, erklärte sie. Kaggles Rolle ist entscheidend, um diese Daten nicht nur zugänglich, sondern auch relevant und nützlich für die Machine-Learning-Community zu halten.

Dieser strategische Schritt von Wikipedia zielt nicht nur darauf ab, die Belastung seiner Server zu verringern, sondern fördert auch eine strukturiertere und vorteilhaftere Beziehung zu den KI- und Machine-Learning-Communities.