Studie: OpenAI -Modelle merkten aus dem urheberrechtlich geschützten Inhalt aus

Eine kürzlich durchgeführte Studie legt nahe, dass OpenAI tatsächlich urheberrechtlich geschütztes Material verwendet hat, um einige seiner KI -Modelle auszubilden, und die laufenden Rechtsstreitigkeiten, mit denen das Unternehmen konfrontiert ist, Kraftstoff verleiht. Autoren, Programmierer und andere Inhaltsersteller haben Openai beschuldigt, ihre Werke - wie Bücher und Code - ohne Erlaubnis zur Entwicklung seiner KI -Modelle zu verwenden. Während Openai sich durch den fairen Gebrauch verteidigt hat, argumentieren die Kläger, dass das US -Urheberrechtsgesetz keine Ausnahme für Schulungsdaten darstellt.

Die Studie, eine Zusammenarbeit zwischen Forschern der University of Washington, der University of Copenhagen und Stanford, führt eine neue Technik zum Erkennen von "auswendig gelernten" Trainingsdaten in Modellen vor, auf die über eine API zugegriffen wird, wie die von OpenAI. KI -Modelle lernen im Wesentlichen aus großen Mengen an Daten, um Muster zu erkennen, sodass sie Aufsätze, Bilder und mehr erstellen können. Obwohl die meisten Ausgaben keine direkten Kopien der Trainingsdaten sind, sind einige unweigerlich auf den Lernprozess zurückzuführen. Zum Beispiel sind Bezeichnungsmodelle bekannt, dass sie Filmscreenshots reproduzieren, während Sprachmodelle im Wesentlichen Nachrichtenartikel plagiieren.

Die in der Studie beschriebene Methode konzentriert sich auf "hochübergreifende" Wörter-Wörter, die in einem bestimmten Kontext ungewöhnlich sind. In dem Satz "Jack und ich saßen zum Beispiel mit dem Radar-Summen perfekt still", wäre "Radar" ein hochübergreifendes Wort, weil es weniger erwartet wird als Wörter wie "Engine" oder "Radio", um "Summing" vorauszugehen.

Die Forscher testeten mehrere OpenAI-Modelle, darunter GPT-4 und GPT-3,5, indem sie hochübergreifende Wörter von Auszügen von Fiction-Büchern und Artikeln der New York Times entfernen und die Modelle bitten, diese fehlenden Wörter vorherzusagen. Wenn die Modelle die Wörter genau erraten haben, schlug dies vor, dass sie den Text während des Trainings auswendig gelernt hatten.

Abhilasha Ravichander, Doktorand an der Universität von Washington und Co-Autor der Studie, betonte TechCrunch, dass diese Ergebnisse die "umstrittenen Daten" hervorheben, die möglicherweise zur Ausbildung dieser Modelle verwendet wurden. "Um große Sprachmodelle zu haben, die vertrauenswürdig sind, müssen wir Modelle haben, die wir untersuchen und prüfen und wissenschaftlich prüfen können", erklärte Ravichander. "Unsere Arbeit zielt darauf ab, ein Instrument zur Prüfung von großartigen Modellen zu liefern, aber es besteht ein echter Bedarf an mehr Datentransparenz im gesamten Ökosystem."

OpenAI hat nach entspannteren Regeln für die Verwendung von urheberrechtlich geschützten Daten zur Entwicklung von KI -Modellen gedrängt. Obwohl das Unternehmen über einige Inhaltslizenzvereinbarungen verfügt und Opt-out-Optionen für Urheberrechtsinhaber anbietet, hat es verschiedene Regierungen dafür eingesetzt, Regeln für die "faire Nutzung" speziell für die KI-Schulung festzulegen.