Cosai啟動:創始成員團結起來

AI的快速發展需要一個強大的安全框架和標準來跟上步伐。這就是為什麼我們去年推出了安全AI框架(SAIF),並知道這只是個開始。要讓任何行業框架運作,你需要團隊合作和一個協作的平台。這就是我們現在的處境。
在Aspen安全論壇上,我們很高興宣布與我們的行業夥伴共同推出安全AI聯盟(CoSAI)。過去一年,我們努力將這個聯盟凝聚在一起,旨在應對AI帶來的獨特安全挑戰,無論是現在還是未來。
CoSAI的創始成員包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企業。我們在國際標準和開源組織OASIS Open下設立基地。
介紹CoSAI的首個工作流
從個人開發者到大公司,每個人都致力於採用共同的安全標準和最佳實踐,CoSAI將支持這一集體努力,推動AI安全。今天,我們將啟動聯盟將專注的三個首要領域,與行業和學術界攜手合作:
- AI系統的軟體供應鏈安全: Google一直在推動將SLSA Provenance擴展到AI模型,通過追蹤其創建和供應鏈處理,幫助判斷AI軟體是否安全。此工作流旨在通過提供檢查來源的指導、第三方模型風險管理以及評估完整AI應用來源,來提升AI安全,基於現有的SSDF和SLSA安全原則,適用於AI和傳統軟體。
- 為改變中的網路安全環境準備防禦者: 處理日常AI治理對安全人員來說可能是一個真正的挑戰。此工作流將創建一個防禦者框架,幫助他們識別投資方向和使用哪些緩解技術來應對AI的安全影響。該框架將隨著AI模型在進攻性網路安全方面的進展而成長。
- AI安全治理: AI安全治理需要新資源和對AI安全獨特性的理解。CoSAI將制定風險和控制清單、檢查清單和評分卡,幫助從業人員評估其準備情況,管理、監控和報告其AI產品的安全性。
此外,CoSAI將與Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等組織合作,推動負責任的AI發展。
下一步是什麼
隨著AI的不斷進展,我們全力確保我們的風險管理策略跟上步伐。過去一年,我們看到行業對確保AI安全的大力支持。更棒的是,我們看到來自開發者、專家和各規模公司的實際行動,幫助組織安全地使用AI。
AI開發者需要——最終用戶也應該得到——一個能應對挑戰並負責任地抓住未來機會的安全框架。CoSAI是這一旅程的下一步,我們很快會有更多更新。想了解如何支持CoSAI,請訪問coalitionforsecureai.org。與此同時,請前往我們的Secure AI Framework頁面,了解更多關於Google在AI安全方面的工作。
相關文章
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化
亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
相關專題推薦
評論 (38)
0/500
Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔
Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔

AI的快速發展需要一個強大的安全框架和標準來跟上步伐。這就是為什麼我們去年推出了安全AI框架(SAIF),並知道這只是個開始。要讓任何行業框架運作,你需要團隊合作和一個協作的平台。這就是我們現在的處境。
在Aspen安全論壇上,我們很高興宣布與我們的行業夥伴共同推出安全AI聯盟(CoSAI)。過去一年,我們努力將這個聯盟凝聚在一起,旨在應對AI帶來的獨特安全挑戰,無論是現在還是未來。
CoSAI的創始成員包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企業。我們在國際標準和開源組織OASIS Open下設立基地。
介紹CoSAI的首個工作流
從個人開發者到大公司,每個人都致力於採用共同的安全標準和最佳實踐,CoSAI將支持這一集體努力,推動AI安全。今天,我們將啟動聯盟將專注的三個首要領域,與行業和學術界攜手合作:
- AI系統的軟體供應鏈安全: Google一直在推動將SLSA Provenance擴展到AI模型,通過追蹤其創建和供應鏈處理,幫助判斷AI軟體是否安全。此工作流旨在通過提供檢查來源的指導、第三方模型風險管理以及評估完整AI應用來源,來提升AI安全,基於現有的SSDF和SLSA安全原則,適用於AI和傳統軟體。
- 為改變中的網路安全環境準備防禦者: 處理日常AI治理對安全人員來說可能是一個真正的挑戰。此工作流將創建一個防禦者框架,幫助他們識別投資方向和使用哪些緩解技術來應對AI的安全影響。該框架將隨著AI模型在進攻性網路安全方面的進展而成長。
- AI安全治理: AI安全治理需要新資源和對AI安全獨特性的理解。CoSAI將制定風險和控制清單、檢查清單和評分卡,幫助從業人員評估其準備情況,管理、監控和報告其AI產品的安全性。
此外,CoSAI將與Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等組織合作,推動負責任的AI發展。
下一步是什麼
隨著AI的不斷進展,我們全力確保我們的風險管理策略跟上步伐。過去一年,我們看到行業對確保AI安全的大力支持。更棒的是,我們看到來自開發者、專家和各規模公司的實際行動,幫助組織安全地使用AI。
AI開發者需要——最終用戶也應該得到——一個能應對挑戰並負責任地抓住未來機會的安全框架。CoSAI是這一旅程的下一步,我們很快會有更多更新。想了解如何支持CoSAI,請訪問coalitionforsecureai.org。與此同時,請前往我們的Secure AI Framework頁面,了解更多關於Google在AI安全方面的工作。
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔
Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔





首頁






