NVIDIA 主導在 OSAA 框架下成立 SAFE 工作小組,以促進 AI 安全資訊共享與開源合作
由 NVIDIA 於一週多前發起的「開放式安全人工智慧聯盟」(OSAA),正迅速推動人工智慧安全領域的發展。該聯盟的成員數已突破 120 家企業,並宣布成立「人工智慧發現資訊共享平台」(SAFE)工作小組,目前正接受關於管理人工智慧安全事件的提案。 此項計畫由 Linux 基金會負責監督。
在本週舉行的 Black Hat 會議上,該聯盟進一步完善了其策略,著重強調 AI 網路安全事件的保密通報、受影響方的通知協議,以及不歸咎於任何一方的事後檢討。這些措施旨在鼓勵全產業共享安全洞見與最佳實踐。

除了制定協作標準外,OSAA 成員還正貢獻開源安全功能,並計劃建立一套適用於企業部署的全面開源 AI 安全工具鏈。這將有助於保護 AI 代理程式,並防禦惡意 AI 攻擊。 NVIDIA 正貢獻開放式模型及開源大型語言模型(LLM)漏洞掃描器 Garak;Okta 致力推進代理身分識別技術;Red Hat 則開發代理治理解決方案;亞馬遜則貢獻了 Strands Agents 及 Cedar 授權語言等專案。
聯盟成員包括 Adobe、BlackRock、Cisco、Intel、Microsoft 及 Visa。然而,OpenAI、Anthropic 和 Google 尚未加入。儘管如此,OpenAI 和 Google 均簽署了先前由 NVIDIA 發起、並獲得超過 200 家科技公司支持的公開信,該公開信旨在倡導開源 AI。
該聯盟的迅速成立,與美國當前關於開源 AI 監管政策的討論密切相關。業界專家認為,OSAA 在推動開放協作與安全標準方面的加速努力,有望進一步鞏固美國的開源 AI 生態系統,並透過開放共享來提升 AI 安全能力與產業競爭力。
相關文章
位元組跳動旗下 Seed 啟動全球校園招聘,以虛擬股份爭奪頂尖大模型人才
在大型語言模型的競爭格局中,爭奪頂尖人才仍然是最關鍵的戰略資產。4月1日,位元組跳動宣佈啟動Seed全球校園招聘計劃,作為其大模型人才培養專案的一部分。該活動面向2027屆畢業生及現有實習生,旨在全球範圍內發掘並鎖定AI領域的精英研發與工程人才。規模擴張:全球甄選100名“AI種子”在技術快速進步的背景下,位元組跳動有限公司今年大幅增加了對基礎AI人才的投入:招聘範圍: 該計劃旨在從全球範圍內招聘約100名專注於大模型的傑出候選人,物件為2027屆畢業生。發展路徑: Seed計劃將核心
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
相關專題推薦
評論 (0)
0/500
由 NVIDIA 於一週多前發起的「開放式安全人工智慧聯盟」(OSAA),正迅速推動人工智慧安全領域的發展。該聯盟的成員數已突破 120 家企業,並宣布成立「人工智慧發現資訊共享平台」(SAFE)工作小組,目前正接受關於管理人工智慧安全事件的提案。 此項計畫由 Linux 基金會負責監督。
在本週舉行的 Black Hat 會議上,該聯盟進一步完善了其策略,著重強調 AI 網路安全事件的保密通報、受影響方的通知協議,以及不歸咎於任何一方的事後檢討。這些措施旨在鼓勵全產業共享安全洞見與最佳實踐。

除了制定協作標準外,OSAA 成員還正貢獻開源安全功能,並計劃建立一套適用於企業部署的全面開源 AI 安全工具鏈。這將有助於保護 AI 代理程式,並防禦惡意 AI 攻擊。 NVIDIA 正貢獻開放式模型及開源大型語言模型(LLM)漏洞掃描器 Garak;Okta 致力推進代理身分識別技術;Red Hat 則開發代理治理解決方案;亞馬遜則貢獻了 Strands Agents 及 Cedar 授權語言等專案。
聯盟成員包括 Adobe、BlackRock、Cisco、Intel、Microsoft 及 Visa。然而,OpenAI、Anthropic 和 Google 尚未加入。儘管如此,OpenAI 和 Google 均簽署了先前由 NVIDIA 發起、並獲得超過 200 家科技公司支持的公開信,該公開信旨在倡導開源 AI。
該聯盟的迅速成立,與美國當前關於開源 AI 監管政策的討論密切相關。業界專家認為,OSAA 在推動開放協作與安全標準方面的加速努力,有望進一步鞏固美國的開源 AI 生態系統,並透過開放共享來提升 AI 安全能力與產業競爭力。
位元組跳動旗下 Seed 啟動全球校園招聘,以虛擬股份爭奪頂尖大模型人才
在大型語言模型的競爭格局中,爭奪頂尖人才仍然是最關鍵的戰略資產。4月1日,位元組跳動宣佈啟動Seed全球校園招聘計劃,作為其大模型人才培養專案的一部分。該活動面向2027屆畢業生及現有實習生,旨在全球範圍內發掘並鎖定AI領域的精英研發與工程人才。規模擴張:全球甄選100名“AI種子”在技術快速進步的背景下,位元組跳動有限公司今年大幅增加了對基礎AI人才的投入:招聘範圍: 該計劃旨在從全球範圍內招聘約100名專注於大模型的傑出候選人,物件為2027屆畢業生。發展路徑: Seed計劃將核心
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼





首頁






