選項
首頁
新聞
EleutherAI 發布用於AI訓練的大規模許可文本數據集

EleutherAI 發布用於AI訓練的大規模許可文本數據集

2025-08-30
128

EleutherAI 發布用於AI訓練的大規模許可文本數據集

EleutherAI,一個領先的AI研究團體,推出了一個用於AI模型訓練的最大許可和開放領域文本集合之一。

名為Common Pile v0.1,此8太字节數據集由AI初創公司Poolside、Hugging Face以及多家學術機構合作開發,歷時兩年。它被用於訓練EleutherAI的兩個新模型,Comma v0.1-1T和Comma v0.1-2T,該組織聲稱這些模型的性能與使用未經許可的版權數據訓練的模型相當。

包括OpenAI在內的AI公司因使用網絡抓取數據(包括版權書籍和期刊)進行模型訓練而面臨法律挑戰。雖然一些公司與內容提供商達成許可協議,但許多公司依賴美國的合理使用原則,來為未經許可使用版權材料進行訓練提供依據。

EleutherAI認為,這些訴訟顯著降低了AI行業的透明度,限制了對模型功能和弱點的洞察,這對更廣泛的研究社區造成了損害。

“法律挑戰並未顯著改變模型訓練的數據來源實踐,但它們極大地降低了AI公司的開放性,”EleutherAI的執行董事Stella Biderman在週五的Hugging Face博客文章中表示。“我們與一些公司研究人員交談時,他們提到訴訟是他們無法分享以數據為中心的研究的原因。”

Common Pile v0.1可在Hugging Face的AI平台和GitHub上獲得,該數據集在法律諮詢下開發,包括國會圖書館和Internet Archive數位化的30萬本公共領域書籍等來源。EleutherAI還使用了OpenAI的Whisper模型來轉錄音頻內容。

EleutherAI聲稱Comma v0.1-1T和Comma v0.1-2T展示了Common Pile v0.1的質量,使開發者能夠創建與專有系統競爭的模型。這兩個模型各有70億個參數,並在數據集的一部分上進行訓練,在編碼、圖像理解和數學基準測試中與Meta的原始Llama模型競爭。

在您的TechCrunch全階段通行證上節省超過200美元

更智能地創新。更快速地成長。更深入地聯繫。與來自Precursor Ventures、NEA、Index Ventures、Underscore VC等遠見卓識者進行為期一天的洞察、研討會和寶貴聯繫。

在您的TechCrunch全階段通行證上節省超過200美元

更智能地創新。更快速地成長。更深入地聯繫。與來自Precursor Ventures、NEA、Index Ventures、Underscore VC等遠見卓識者進行為期一天的洞察、研討會和寶貴聯繫。

波士頓,麻薩諸塞州 | 7月15日起立即註冊

參數,通常稱為權重,是AI模型內部塑造其行為和響應的元素。

“認為未經許可的文本對於高性能至關重要的信念是沒有根據的,”Biderman在她的文章中表示。“隨著公開許可和公共領域數據變得更容易獲取,我們預期使用此類內容訓練的模型將顯著改進。”

Common Pile v0.1部分解決了EleutherAI過去的爭議。幾年前,該團體發布了包含版權材料的開放數據集The Pile,這引起了批評和法律審查,因其在AI訓練中的使用。

EleutherAI承諾將更定期發布開放數據集,與研究和基礎設施合作夥伴合作。

太平洋時間上午9:48更新:Biderman在X上指出,EleutherAI為數據集和模型發布做出了貢獻,來自多倫多大學等合作夥伴的參與尤為重要,該大學共同領導了研究。

相關文章
科大訊飛釋出訊飛星火大模型 V2.5 科大訊飛釋出訊飛星火大模型 V2.5 9月1日,科大訊飛將開源兩款面向邊緣場景的大語言模型——星火X2.5-4B和星火X2.5-1.7B,據最新官方公告。這兩款模型原生支援高達100萬token的上下文視窗。它們在智慧體互動、數學推理和通用理解等關鍵領域實現了顯著提升,為車載系統、智慧裝置和物聯網生態等邊緣應用提供了強有力的支援。在上述邊緣模型釋出後,科大訊飛計劃於9月7日推出擁有2930億引數的星火X2.5基礎模型。該版本將進一步推進程式碼生成和多智慧體協作等核心技術。在公司2026年年中簡報會上宣佈,一款完全基於國產算力基礎設施
Meta 在使用者強烈反對後取消了 AI 照片編輯功能 Meta 在使用者強烈反對後取消了 AI 照片編輯功能 Meta,這家社交媒體巨頭,再次捲入關於人工智慧與使用者隱私之間微妙平衡的公開辯論。據 TechCrunch 報道,Meta 的 Superintelligence Labs 本週早些時候推出了一款新的 AI 影象生成器 Muse Image。然而,一個備受好評的關鍵功能——允許使用者透過“@”符號標記來修改和生成來自公開 Instagram 賬戶的影象——由於缺乏適當的通知機制,立即引發了使用者以及 CAA 等機構的強烈反對。面對強烈的批評,Meta 迅速撤銷了該決定,並於週五透過部落格文章宣佈將
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。 DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。 Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
相關專題推薦
動畫創作 適用於社群媒體內容的 AI 場景動畫工具
適用於社群媒體內容的 AI 場景動畫工具

XIX.AI 在此精選了 2026 年最新、最佳且評價最高的社群媒體內容 AI 場景動畫工具。這些強大且顛覆業界的工具不僅提供實際測試結果,更包含詳盡的免費版與付費版比較,能協助創作者大幅提升工作效率。立即探索,釋放您的 AI 優勢。

9 個工具
xix.ai
視頻創作 適用於 Reels、Shorts 及產品上市活動的 AI 短影片吸睛開場生成器
適用於 Reels、Shorts 及產品上市活動的 AI 短影片吸睛開場生成器

2026 年最新最佳 AI 短影片開場白生成器,適用於 Reels、Shorts 及產品上市活動!XIX.AI 嚴選備受好評、功能強大且能顛覆遊戲規則的工具,這些工具皆經過實際測試,能帶來絕對值得一試的成果。本頁面每週更新,提供免費與付費版本的比較排行榜,助您找到提升內容創意與生產力的完美解決方案。 立即探索,釋放您的 AI 競爭優勢!

11 個工具
xix.ai
寫作 適用於長篇寫作的 AI 文章大綱工具
適用於長篇寫作的 AI 文章大綱工具

2026 年最新、最受好評的長文寫作 AI 大綱工具!這份精選清單收錄了強大且具顛覆性的工具,能透過實際測試生成精準、結構化的大綱,大幅提升寫作效率。XIX.AI 正是這份菁英名單中的一員。 獲取免費版與付費版的比較指南,助您挑選最合適的工具。立即探索,釋放您的 AI 優勢!

9 個工具
xix.ai
聊天機器人 用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用
用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用

2026 年最新最佳頂級評分 AI 角色扮演聊天應用,用於語言練習、面試準備和日常流利度!XIX.AI 精心策劃了一個強大的變革性合集,提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能,克服流利度挑戰,並提高所有日常場景下的溝通效率。立即探索,發現您語言成長的完美工具!

10 個工具
xix.ai
音樂創作 用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具
用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具

2026年最新、最優秀且評分最高的AI音軌分離工具彙總,專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試,能夠實現精準的音訊分離,顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南,幫助您找到最適合自身需求的工具。立即探索,發揮您的AI優勢。

8 個工具
xix.ai
數據分析 用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手
用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手

2026年最新最優秀的AI SQL輔助工具排名揭曉!XIX.AI精心挑選了一系列功能強大的工具,這些工具會定期更新,並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具,您可以快速生成精準的收入分析報表、分析銷售流程,並追蹤產品各項指標,從而大幅提升工作效率。立即探索,找到最適合您的資料驅動決策工具!238個字元

9 個工具
xix.ai
評論 (2)
0/500
NicholasLewis
NicholasLewis 2026-03-10 18:01:03

Наконец-то качественные данные для обучения ИИ! 😄 Но интересно, как это повлияет на конкуренцию между OpenAI и другими компаниями. Может, скоро увидим более умные модели?

RyanLopez
RyanLopez 2026-02-02 16:00:51

Wow, 8 terabytes of legally licensed text is a game-changer! It's fantastic to see more high-quality, transparent data becoming available. This should really help push open-source AI models forward and maybe even challenge some of the big players who rely on murkier data sources. Hopefully, it leads to more reliable and ethically-sound systems. Can't wait to see what gets built on this! 🚀

OR