研究：OpenAI模型記憶的受版權保護內容
2025年04月10日
RonaldHernández
44
最近的一項研究表明，Openai確實確實使用了受版權保護的材料來訓練其一些AI模型，從而為公司面臨的正在進行的法律鬥爭增加了燃料。作者，程序員和其他內容創建者指責Openai使用其作品（例如書籍和代碼），而無權開發其AI模型。儘管Openai通過聲稱合理使用來捍衛自己，但原告認為美國版權法並未為培訓數據提供例外。
這項研究是華盛頓大學，哥本哈根大學和斯坦福大學的研究人員之間的合作，引入了一種新技術，用於檢測通過API訪問的模型中的“記憶”培訓數據，例如OpenAI的培訓數據。 AI模型本質上從大量數據中學習以識別模式，使它們能夠創建論文，圖像等。儘管大多數輸出不是培訓數據的直接副本，但有些不可避免地是由於學習過程所致。例如，眾所周知，圖像模型可以復制電影屏幕截圖，而語言模型實際上是竊新聞文章。
研究中描述的方法著重於“高生命”單詞，這些單詞在給定情況下是不尋常的單詞。例如，在句子中，“傑克和我與雷達嗡嗡聲完美坐著”，“雷達”將是一個高彈性的詞，因為它比“引擎”或“無線電”諸如“嗡嗡聲”之前的單詞較少。
研究人員通過從小說書籍和《紐約時報》文章的摘錄中刪除了高空單詞，並要求模型預測這些缺失的單詞，從而測試了包括GPT-4和GPT-3.5在內的幾種OpenAI模型。如果這些模型準確地猜到了這些單詞，它表明他們在訓練過程中記住了文本。
一個模型“猜測”高傳播單詞的示例。圖片學分：OpenAi 結果表明，GPT-4可能記住了流行小說書籍的部分，包括在Bookmia的電子書數據集中。它似乎還記住了一些紐約時報的文章，儘管頻率較低。
華盛頓大學的博士生，該研究的合著者Abhilasha Ravichander強調，這些發現強調了可能被用於培訓這些模型的“有爭議的數據”。 Ravichander說：“為了具有值得信賴的大語言模型，我們需要擁有可以探究和審核和科學檢查的模型。” “我們的工作旨在提供一種探究大型語言模型的工具，但實際上需要在整個生態系統中提高數據透明度。”
Openai推動了使用受版權保護的數據開發AI模型的更輕鬆的規則。儘管該公司有一些內容許可協議，並為版權持有人提供了退出選項，但它遊說各個政府以建立專門針對AI培訓的“合理使用”規則。
相關文章
Google搜索引入了複雜的多部分查詢的“ AI模式”
Google推出了“ AI模式”，以搜索與競爭對手的困惑AI和ChatgptGoogle在AI Arena中加強遊戲，並在其搜索引擎中啟動了實驗性的“ AI模式”功能。旨在進行困惑AI和Openai的Chatgpt搜索之類
Chatgpt主意使用用戶名在某些人中引發了“令人毛骨悚然”的問題
Chatgpt的一些用戶最近遇到了一個奇怪的新功能：聊天機器人偶爾在解決問題時使用他們的名字。這不是以前其通常行為的一部分，許多用戶報告Chatgpt提到了他們的名字，而沒有被告知該怎麼稱呼。意見
Openai增強了Chatgpt，以回憶以前的對話
Openai在周四發表了一項重大宣布，內容涉及在Chatgpt中推出一個名為“ Memory”的新功能。這種漂亮的工具旨在通過記住您以前談論的內容來使您與AI的聊天更為個性化。想像一下，每次開始新的轉換時都不必重複自己
評論 (20)
0/200
![AlbertHernández]()
AlbertHernández
2025年04月14日 21:39:34
This study about OpenAI using copyrighted material is pretty eye-opening! I mean, it's kind of a bummer for creators, but also fascinating to see how AI is trained. It makes you wonder what else is out there that we don't know about. Maybe OpenAI should start being more transparent? 🤔
0
![TimothyMitchell]()
TimothyMitchell
2025年04月22日 00:12:42
OpenAIが著作権付きの資料を使ってAIを訓練しているという研究は本当に驚きですね！クリエイターにとっては残念ですが、AIの訓練方法について知るのは面白いです。もっと透明性が必要かもしれませんね？🤔
0
![WillLopez]()
WillLopez
2025年04月21日 11:49:05
오픈AI가 저작권 있는 자료를 사용해 AI를 훈련했다는 연구는 정말 충격적이에요! 창작자들에게는 안타까운 일이지만, AI가 어떻게 훈련되는지 아는 건 흥미로워요. 오픈AI가 더 투명해져야 할까요? 🤔
0
![JamesMiller]()
JamesMiller
2025年04月10日 18:07:57
Esse estudo sobre a OpenAI usando material com direitos autorais é bem revelador! É uma pena para os criadores, mas também fascinante ver como o AI é treinado. Faz você se perguntar o que mais está por aí que não sabemos. Talvez a OpenAI devesse ser mais transparente? 🤔
0
![BruceSmith]()
BruceSmith
2025年04月13日 01:01:58
Este estudio sobre OpenAI usando material con derechos de autor es bastante revelador. Es una lástima para los creadores, pero también fascinante ver cómo se entrena la IA. Te hace preguntarte qué más hay por ahí que no sabemos. ¿Quizás OpenAI debería ser más transparente? 🤔
0
![JohnWilson]()
JohnWilson
2025年04月17日 17:16:23
This study on OpenAI's models using copyrighted content is kinda scary! 😱 I mean, it's cool how smart AI is getting, but it feels wrong if they're just copying books and code without asking. Hope they sort it out soon! 🤞
0
2025年04月10日
RonaldHernández
44
最近的一項研究表明，Openai確實確實使用了受版權保護的材料來訓練其一些AI模型，從而為公司面臨的正在進行的法律鬥爭增加了燃料。作者，程序員和其他內容創建者指責Openai使用其作品（例如書籍和代碼），而無權開發其AI模型。儘管Openai通過聲稱合理使用來捍衛自己，但原告認為美國版權法並未為培訓數據提供例外。
這項研究是華盛頓大學，哥本哈根大學和斯坦福大學的研究人員之間的合作，引入了一種新技術，用於檢測通過API訪問的模型中的“記憶”培訓數據，例如OpenAI的培訓數據。 AI模型本質上從大量數據中學習以識別模式，使它們能夠創建論文，圖像等。儘管大多數輸出不是培訓數據的直接副本，但有些不可避免地是由於學習過程所致。例如，眾所周知，圖像模型可以復制電影屏幕截圖，而語言模型實際上是竊新聞文章。
研究中描述的方法著重於“高生命”單詞，這些單詞在給定情況下是不尋常的單詞。例如，在句子中，“傑克和我與雷達嗡嗡聲完美坐著”，“雷達”將是一個高彈性的詞，因為它比“引擎”或“無線電”諸如“嗡嗡聲”之前的單詞較少。
研究人員通過從小說書籍和《紐約時報》文章的摘錄中刪除了高空單詞，並要求模型預測這些缺失的單詞，從而測試了包括GPT-4和GPT-3.5在內的幾種OpenAI模型。如果這些模型準確地猜到了這些單詞，它表明他們在訓練過程中記住了文本。
華盛頓大學的博士生，該研究的合著者Abhilasha Ravichander強調，這些發現強調了可能被用於培訓這些模型的“有爭議的數據”。 Ravichander說：“為了具有值得信賴的大語言模型，我們需要擁有可以探究和審核和科學檢查的模型。” “我們的工作旨在提供一種探究大型語言模型的工具，但實際上需要在整個生態系統中提高數據透明度。”
Openai推動了使用受版權保護的數據開發AI模型的更輕鬆的規則。儘管該公司有一些內容許可協議，並為版權持有人提供了退出選項，但它遊說各個政府以建立專門針對AI培訓的“合理使用”規則。
Google搜索引入了複雜的多部分查詢的“ AI模式”
Google推出了“ AI模式”，以搜索與競爭對手的困惑AI和ChatgptGoogle在AI Arena中加強遊戲，並在其搜索引擎中啟動了實驗性的“ AI模式”功能。旨在進行困惑AI和Openai的Chatgpt搜索之類
Chatgpt主意使用用戶名在某些人中引發了“令人毛骨悚然”的問題
Chatgpt的一些用戶最近遇到了一個奇怪的新功能：聊天機器人偶爾在解決問題時使用他們的名字。這不是以前其通常行為的一部分，許多用戶報告Chatgpt提到了他們的名字，而沒有被告知該怎麼稱呼。意見
Openai增強了Chatgpt，以回憶以前的對話
Openai在周四發表了一項重大宣布，內容涉及在Chatgpt中推出一個名為“ Memory”的新功能。這種漂亮的工具旨在通過記住您以前談論的內容來使您與AI的聊天更為個性化。想像一下，每次開始新的轉換時都不必重複自己
2025年04月14日 21:39:34
This study about OpenAI using copyrighted material is pretty eye-opening! I mean, it's kind of a bummer for creators, but also fascinating to see how AI is trained. It makes you wonder what else is out there that we don't know about. Maybe OpenAI should start being more transparent? 🤔
0
2025年04月22日 00:12:42
OpenAIが著作権付きの資料を使ってAIを訓練しているという研究は本当に驚きですね！クリエイターにとっては残念ですが、AIの訓練方法について知るのは面白いです。もっと透明性が必要かもしれませんね？🤔
0
2025年04月21日 11:49:05
오픈AI가 저작권 있는 자료를 사용해 AI를 훈련했다는 연구는 정말 충격적이에요! 창작자들에게는 안타까운 일이지만, AI가 어떻게 훈련되는지 아는 건 흥미로워요. 오픈AI가 더 투명해져야 할까요? 🤔
0
2025年04月10日 18:07:57
Esse estudo sobre a OpenAI usando material com direitos autorais é bem revelador! É uma pena para os criadores, mas também fascinante ver como o AI é treinado. Faz você se perguntar o que mais está por aí que não sabemos. Talvez a OpenAI devesse ser mais transparente? 🤔
0
2025年04月13日 01:01:58
Este estudio sobre OpenAI usando material con derechos de autor es bastante revelador. Es una lástima para los creadores, pero también fascinante ver cómo se entrena la IA. Te hace preguntarte qué más hay por ahí que no sabemos. ¿Quizás OpenAI debería ser más transparente? 🤔
0
2025年04月17日 17:16:23
This study on OpenAI's models using copyrighted content is kinda scary! 😱 I mean, it's cool how smart AI is getting, but it feels wrong if they're just copying books and code without asking. Hope they sort it out soon! 🤞
0
