研究人員聲稱

# openai

Openai未經允許培訓其AI模型，面臨著眾多使用受版權保護的材料的指控。 AI披露項目的最新研究是由媒體大亨蒂姆·奧萊利（Tim O'Reilly）和經濟學家伊蘭·斯特勞斯（Ilan Strauss）於2024年成立的非營利組織，這表明Openai可能使用O'Reilly Media的非公開書籍來培訓其更高級的模型GPT-4O。 AI模型，本質上是複雜的預測引擎，在包括書籍，電影和電視節目在內的大量數據集上進行了培訓。他們學習模式並根據這些模式產生響應，而不是創造任何真正的新事物，而是從他們廣泛的知識庫中近似。隨著像公共網絡這樣的現實數據源變得筋疲力盡，包括OpenAI在內的一些AI實驗室已經開始使用AI生成的數據進行培訓，儘管由於降低模型性能的風險，很少有人完全放棄了現實世界中的數據。 AI披露項目的論文聲稱，與較早的GPT-3.5 Turbo Model不同，OpenAI的GPT-4O模型是CHATGPT中的默認模型，顯示了對Paywalled O'Reilly Books的內容的強烈認可。該論文表明，儘管O'Reilly Media沒有與OpenAI達成許可協議，但GPT-4O可能接受了這些非公共書籍的培訓。該研究採用了一種名為DE-COP的方法，該方法於2024年引入，以檢測AI培訓數據中受版權保護的內容。這種“成員推理攻擊”測試了模型是否可以區分人類作者的文本和AI生成的釋義，這表明文本可靠地了解文本。研究人員使用34本O'Reilly書籍中的13,962段摘錄測試了GPT-4O，GPT-3.5 Turbo和其他OpenAI模型，發現GPT-4O與較舊模型相比，GPT-4O認識到的收費內容要多得多。雖然作者承認他們的方法不是萬無一失，並且用戶複製並粘貼到chatgpt中可能引入了付費內容，但這些發現引發了有關OpenAI數據實踐的疑問。該研究沒有評估OpenAI的最新模型，例如GPT-4.5和O3-Mini和O1等推理模型，因此打開了可能未接受相同數據培訓的可能性。 Openai一直在推動有關AI培訓數據的更輕鬆的版權法，並一直在尋求更高質量的數據源。該公司甚至僱用了記者來完善其模型的產出，這是在AI行業看到的這種做法，在該行業中，招募了各個領域的專家以增強AI系統。 OpenAI確實為其某些培訓數據付費，與各種內容提供商達成許可協議，並為版權所有者提供退出機制。但是，由於該公司在其數據實踐方面面臨法律挑戰，因此O'Reilly Paper的發現對其運營產生了陰影。 Openai沒有回應對該研究發表評論的請求。

相關文章

評論 (41)