OpenAI 推出「Patch the Planet」計畫,旨在運用人工智慧為開源程式碼「接種疫苗」
OpenAI 最近推出了「Patch the Planet」計畫,這項計畫旨在運用人工智慧來強化開源社群內的網路安全。 該名稱借鑒自 1995 年的經典電影《駭客》及其著名的台詞「入侵地球(Invasion Earth)」,將這句俏皮話轉化為實用的策略。此舉使 OpenAI 成為開源生態系統中積極進取的守護者。

AI 安全工具與人工驗證為開源維護者減輕負擔
OpenAI 正與網路安全公司 Trail of Bits 緊密合作。Trail of Bits 的專家將直接與開源維護者協作,以發掘隱藏的程式碼風險,同時運用 OpenAI 的內部安全工具(如 Codex Security)進行額外檢測。
OpenAI 指出,多數開源維護者人手與時間有限,卻面臨日益洶湧的安全漏洞報告。 「Patch the Planet」計畫的核心原則在於減輕負擔,而非增加負擔。資安工程師首先會驗證漏洞發現結果,接著與專案團隊合作制定修補程式與測試案例,並開發可重複使用的自動化工作流程。一旦初步修正措施到位,各專案便能透過持續迭代來不斷提升其資安防禦能力。
開源生態系統的 Log4j 噩夢絕不能重演
開源專案構成了商業軟體產業的數位骨幹,但其去中心化的結構與缺乏強有力的監督,導致了許多安全漏洞。幾年前的 Log4j 事件便是典型例證:一個被廣泛採用的開源函式庫暗藏著一個關鍵缺陷,進而引發了全球性的安全危機。
業界普遍擔憂的是,AI 安全工具能自動掃描程式碼儲存庫以尋找漏洞,甚至生成攻擊程式碼。雖然自動化網路犯罪並非新鮮事,但這些工具確實降低了攻擊者的門檻。OpenAI 則透過運用 AI 賦能開源社群,主動強化防禦能力,從而扭轉了這種局面。 一方面,此舉被視為對 Anthropic 的 Mythos 產品等競爭對手的回應;另一方面,它也直接解決了開源社群長期存在且迫切的安全需求。
目前,這項計畫的長期推行與大規模擴展藍圖仍不明朗。然而,利用 AI 為全球開源程式碼進行「免疫」的概念,已令人充滿期待。
相關文章
由馬克·貝尼奧夫支援的初創公司旨在解決人工智慧部署挑戰
大型企業在部署可靠的人工智慧工具時面臨如此嚴峻的挑戰,以至於整個前沿部署工程師團隊——這些嵌入在客戶公司內部以將人工智慧系統投入運營的專業人員——正在湧現,以彌合這一差距。“矛盾的是,人工智慧推高了專業服務的需求,”前 Salesforce 高管、新成立的 June 公司創始人 Efrat Rapoport 週一宣佈該公司結束秘密運營狀態時指出。“行業解決人工智慧整合問題的方法只是僱傭越來越多的人。”Rapoport 與她的三位聯合創始人——Ohad Hen、Barak Goldstein
阿里影片釋出萬3.0,實現超長影片生成與多維度一致性
8月24日,阿里巴巴釋出了萬3.0,這是其最新的影片生成大模型。此次釋出標誌著阿里巴巴影片技術的重大飛躍,在時長、通用創作、參考處理以及真實世界模擬方面實現了顯著提升。萬3.0將單影片生成的時長擴充套件至30秒,在單個鏡頭內提供了更為豐富的敘事可能性。它還引入了對多種主流檔案格式的支援——包括doc、xls、ppt、pdf和md——使得文字、表格和幻燈片能夠直接轉換為動態視覺內容。為了解決視覺不一致和風格漂移等常見挑戰,萬3.0在微觀層面確保了高度的穩定性。它在角色外觀、道具細節、音訊設定、空間關係
MiniMax大模型誤讀姓名——稀宇科技:特定Token後訓練不足
MiniMax 最近釋出了一份技術報告,詳細解釋了其 M2 系列模型為何難以準確生成“馬嘉祺”等特定名稱。這一看似錯誤的現象凸顯了當前大語言模型訓練中存在的系統性缺陷。Token 偏移:被擠壓的向量空間根本原因在於分詞器(tokenizer),即文字處理的基本單位。例如,名稱“馬嘉祺”被拆分為兩個 Token:“Ma”和“Jiaqi”。雖然模型在預訓練階段學習了這些 Token,但在隨後的指令微調階段出現了問題。在微調期間,Token “Jiaqi”在對話資料中出現的頻率極低,因此幾乎未接受任何
相關專題推薦
評論 (0)
0/500
OpenAI 最近推出了「Patch the Planet」計畫,這項計畫旨在運用人工智慧來強化開源社群內的網路安全。 該名稱借鑒自 1995 年的經典電影《駭客》及其著名的台詞「入侵地球(Invasion Earth)」,將這句俏皮話轉化為實用的策略。此舉使 OpenAI 成為開源生態系統中積極進取的守護者。

AI 安全工具與人工驗證為開源維護者減輕負擔
OpenAI 正與網路安全公司 Trail of Bits 緊密合作。Trail of Bits 的專家將直接與開源維護者協作,以發掘隱藏的程式碼風險,同時運用 OpenAI 的內部安全工具(如 Codex Security)進行額外檢測。
OpenAI 指出,多數開源維護者人手與時間有限,卻面臨日益洶湧的安全漏洞報告。 「Patch the Planet」計畫的核心原則在於減輕負擔,而非增加負擔。資安工程師首先會驗證漏洞發現結果,接著與專案團隊合作制定修補程式與測試案例,並開發可重複使用的自動化工作流程。一旦初步修正措施到位,各專案便能透過持續迭代來不斷提升其資安防禦能力。
開源生態系統的 Log4j 噩夢絕不能重演
開源專案構成了商業軟體產業的數位骨幹,但其去中心化的結構與缺乏強有力的監督,導致了許多安全漏洞。幾年前的 Log4j 事件便是典型例證:一個被廣泛採用的開源函式庫暗藏著一個關鍵缺陷,進而引發了全球性的安全危機。
業界普遍擔憂的是,AI 安全工具能自動掃描程式碼儲存庫以尋找漏洞,甚至生成攻擊程式碼。雖然自動化網路犯罪並非新鮮事,但這些工具確實降低了攻擊者的門檻。OpenAI 則透過運用 AI 賦能開源社群,主動強化防禦能力,從而扭轉了這種局面。 一方面,此舉被視為對 Anthropic 的 Mythos 產品等競爭對手的回應;另一方面,它也直接解決了開源社群長期存在且迫切的安全需求。
目前,這項計畫的長期推行與大規模擴展藍圖仍不明朗。然而,利用 AI 為全球開源程式碼進行「免疫」的概念,已令人充滿期待。
由馬克·貝尼奧夫支援的初創公司旨在解決人工智慧部署挑戰
大型企業在部署可靠的人工智慧工具時面臨如此嚴峻的挑戰,以至於整個前沿部署工程師團隊——這些嵌入在客戶公司內部以將人工智慧系統投入運營的專業人員——正在湧現,以彌合這一差距。“矛盾的是,人工智慧推高了專業服務的需求,”前 Salesforce 高管、新成立的 June 公司創始人 Efrat Rapoport 週一宣佈該公司結束秘密運營狀態時指出。“行業解決人工智慧整合問題的方法只是僱傭越來越多的人。”Rapoport 與她的三位聯合創始人——Ohad Hen、Barak Goldstein
阿里影片釋出萬3.0,實現超長影片生成與多維度一致性
8月24日,阿里巴巴釋出了萬3.0,這是其最新的影片生成大模型。此次釋出標誌著阿里巴巴影片技術的重大飛躍,在時長、通用創作、參考處理以及真實世界模擬方面實現了顯著提升。萬3.0將單影片生成的時長擴充套件至30秒,在單個鏡頭內提供了更為豐富的敘事可能性。它還引入了對多種主流檔案格式的支援——包括doc、xls、ppt、pdf和md——使得文字、表格和幻燈片能夠直接轉換為動態視覺內容。為了解決視覺不一致和風格漂移等常見挑戰,萬3.0在微觀層面確保了高度的穩定性。它在角色外觀、道具細節、音訊設定、空間關係
MiniMax大模型誤讀姓名——稀宇科技:特定Token後訓練不足
MiniMax 最近釋出了一份技術報告,詳細解釋了其 M2 系列模型為何難以準確生成“馬嘉祺”等特定名稱。這一看似錯誤的現象凸顯了當前大語言模型訓練中存在的系統性缺陷。Token 偏移:被擠壓的向量空間根本原因在於分詞器(tokenizer),即文字處理的基本單位。例如,名稱“馬嘉祺”被拆分為兩個 Token:“Ma”和“Jiaqi”。雖然模型在預訓練階段學習了這些 Token,但在隨後的指令微調階段出現了問題。在微調期間,Token “Jiaqi”在對話資料中出現的頻率極低,因此幾乎未接受任何





首頁






