Microsoft-Exekutive bezeichnen das Scrapen von KI-Daten als „den größten Diebstahl von Arbeit in der Geschichte“, wie unzensierte Akten zeigen

Ungeöffnete Dokumente aus dem dreijährigen Urheberrechtsklageverfahren, das die New York Times gegen OpenAI und Microsoft eingereicht hat, offenbaren ein Geständnis, dass das Scraping von KI-Daten Diebstahl darstellt und eine schwere Bedrohung für Medienunternehmen darstellt.

Laut der Klage hat ein leitender Microsoft-Funktionär die KI-Trainingsmethoden der Unternehmen intern als „Diebstahl“ bezeichnet, während die Führung von OpenAI anerkannte, dass ihre Modelle eine „existenzielle Bedrohung“ für die Verlage und Journalisten darstellten, deren Inhalte sie trainierten.

Die neu freigegebenen Aufzeichnungen erläutern auch, wie die Unternehmen angeblich auf diese Inhalte zugriffen und sie nutzten, indem sie Paywalls unbemerkt umgingen, Trainingsdatensätze durch massives Scraping erstellten und Urheberrechtshinweise vorsätzlich aus den Daten entfernten.

Es ist wichtig anzumerken, dass ein Großteil dieser neuen Informationen aus den eigenen rechtlichen Schriftsätzen der Times stammt und nicht aus den zugrunde liegenden Beweismitteln, die weiterhin unter Verschluss stehen. Die unten stehenden Zitate werden ohne ihren ursprünglichen Kontext dargestellt.

Dieser unzensierte Antrag markiert die neueste Eskalation in der dreijährigen Klage, bei der die New York Times ursprünglich behauptete, die Firmen hätten das Urheberrechtsgesetz verletzt, indem sie generative KI-Modelle mit ihren Inhalten trainierten.

Es gibt keine klare rechtliche Antwort darauf, ob KI-Unternehmen urheberrechtlich geschütztes Material legal für Trainingszwecke nutzen dürfen, obwohl Richter im Allgemeinen die Argumentation der KI-Unternehmen bevorzugt haben, dass solches Training als „fair use“ (angemessene Nutzung) qualifiziert. Diese Rechtsdoktrin erlaubt die Nutzung urheberrechtlich geschützter Werke ohne Erlaubnis in bestimmten Fällen, wie Parodie, Nachrichtenberichterstattung oder Kritik. Anfang dieses Monats reichte die Trump-Verwaltung ein Schriftsatz ein, der die lizenzierte Nutzung urheberrechtlich geschützten Materials durch OpenAI zum Training ihrer großen Sprachmodelle unterstützte.

Einige dieser neuen Geständnisse widersprechen jedoch der Fair-Use-Verteidigung von OpenAI, insbesondere der Anforderung, dass eine solche Nutzung das Originalwerk nicht ersetzt oder dessen Markt schädigt.

So zeigen die eigenen Daten von Microsoft, dass die „Answer Engine“ von Copilot die Click-Through-Raten für die Domain der New York Times im Vergleich zu herkömmlichen Bing-Suchen um bis zu 93 % sinken ließ. Eine interne Microsoft-Präsentation von Brent Hecht, Microsofts Direktor für Angewandte Wissenschaft, aus Januar 2024, beschreibt diesen Rückgang als „Doom-Loop“ (Abwärtsspirale), der gleichzeitig „die Leistung unserer Modelle und das gesamte Web schädigen“ würde.

„Es ist höchst ungewöhnlich, dass ein Endprodukt die wirtschaftlichen Grundlagen seiner wesentlichen Lieferanten bedroht, aber genau diese Situation haben wir für unser LLM-Geschäft bezüglich seiner ‚Inhaltslieferkette‘ geschaffen“, heißt es im Microsoft-Dokument, wie im Antrag zitiert.

Der Microsoft-Vorstandsvorsitzende Satya Nadella sagte auch in einer Vernehmung zu Beginn dieses Jahres aus, dass „alles, was hinter einer Paywall steht, von jedem lizenziert werden sollte, der es verwenden möchte … für Grounding oder Training“, und präzisierte, dass er, wenn er „gewusst hätte, dass OpenAI hinter einer Paywall liegende Informationen gescraped und damit trainiert hat“, „das Recht von [Microsoft] angewendet hätte, OpenAI zur Neustrainierung seiner Modelle zu verpflichten“.

Andere Geständnisse untergraben verschiedene Aspekte des Fair-Use-Tests: OpenAIs Leiter von ChatGPT, Nick Turley, schrieb in internen Kommunikationen, dass Verlage eine „existenzielle Bedrohung“ durch Produkte wie den Chatbot erleben, die „weitgehend substituierend“ sind und „immer substituierender werden, je besser sie werden“.

OpenAIs Präsident Greg Brockman beschrieb die Modelle als „hervorragend in den Nachrichten“. Nadella stimmte zu Beginn dieses Jahres unter Eid zu, dass die Interaktion mit Chatbots „ersetzt … Ihnen die Informationen direkt auf der Website auf der KI-Plattform zu geben, anstatt zur ursprünglichen Quelle gehen zu müssen“.

Solche Formulierungen verdeutlichen, wie die Technologie direkt mit dem Originalwerk konkurrieren könnte, anstatt es zu transformieren.

Ein Microsoft-Dokument besagt, dass ein „reales Risiko“ besteht, dass generative KI die Beschäftigung derjenigen Menschen erheblich stören könnte, die die Daten generiert haben, auf denen das Foundation-Modell trainiert wurde.

Der schiere Umfang der Kopie ist auffällig. Die Dokumente enthüllen erstmals, dass die Mid-Training-Datensätze von OpenAI allein mehr als 91.692 Kopien von Werken enthalten, die von der NYT, dem Daily News und dem Center for Investigative Reporting veröffentlicht wurden. Ein Datensatz, der von Common Crawl abgeleitet wurde, enthielt mehr als 2 Millionen Dokumente allein von nytimes.com.

In einem internen Memo vom Januar 2023 nannte Hecht es „einen erstaunlichen Diebstahl von beispiellosem Ausmaß“ und „den größten Diebstahl von Arbeitskraft in der Geschichte der Menschheit“.

Der Antrag liefert neue Details darüber, wie OpenAI und Microsoft die Inhalte der Kläger erwarben, einschließlich des Scrapings aus dem Bing-Index.

„OpenAI lieferte den gesamten GPT-3-Trainingsdatensatz an Microsoft, den Microsoft nutzte, um zu bewerten, wie OpenAIs Modelle in seinen eigenen kommerziellen Produkten implementiert werden können“, heißt es im Antrag. „Microsoft stellte OpenAI ebenfalls Trainingsdaten durch Initiativen namens Project Taxi und Project Mango zur Verfügung.“

Die Unternehmen sollen die Daten von Project Mango zu einem Trainingsdatensatz zusammengefügt haben, der Kopien von mindestens 160.903 einzigartigen Werken von Nachrichtenverlagen enthielt.

Um die Effektivität ihres Scrapings zu maximieren, entwickelten OpenAI-Mitarbeiter angeblich einen Plan, Paywalls unbemerkt zu umgehen. Die Akten zeigen, dass OpenAI-Forscher Nick Ryder Brockman über einen „Hack, um die nytimes-Paywall zu umgehen“ informierte, woraufhin Brockman antwortete: „ah nice“.

OpenAI-Mitarbeiter sollen angeblich Trainingsdatensätze wie WebText und WebText2 erstellt haben, die überproportional auf gescrapte Nachrichteninhalte zurückgriffen. Sie sollen angeblich Millionen von Artikeln aus Common Crawl, einem kostenlosen, offenen Repository für Web-Crawl-Daten, extrahiert haben. Die Ergebnisse beschreiben auch gezielte Bemühungen, Urheberrechtshinweise aus den Trainingsdaten zu entfernen, bevor sie das Modell erreichten, da Forscher „nicht wollten, dass das Modell“ „Urheberrechtshinweise“ an die Benutzer ausgibt.

OpenAI und Microsoft gaben keine Kommentare auf Anfragen zurück.