選項
首頁
新聞
Cosai啟動:創始成員團結起來

Cosai啟動:創始成員團結起來

2025-04-10
249

Cosai啟動:創始成員團結起來

AI的快速發展需要一個強大的安全框架和標準來跟上步伐。這就是為什麼我們去年推出了安全AI框架(SAIF),並知道這只是個開始。要讓任何行業框架運作,你需要團隊合作和一個協作的平台。這就是我們現在的處境。

在Aspen安全論壇上,我們很高興宣布與我們的行業夥伴共同推出安全AI聯盟(CoSAI)。過去一年,我們努力將這個聯盟凝聚在一起,旨在應對AI帶來的獨特安全挑戰,無論是現在還是未來。

CoSAI的創始成員包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企業。我們在國際標準和開源組織OASIS Open下設立基地。

介紹CoSAI的首個工作流

從個人開發者到大公司,每個人都致力於採用共同的安全標準和最佳實踐,CoSAI將支持這一集體努力,推動AI安全。今天,我們將啟動聯盟將專注的三個首要領域,與行業和學術界攜手合作:

  1. AI系統的軟體供應鏈安全: Google一直在推動將SLSA Provenance擴展到AI模型,通過追蹤其創建和供應鏈處理,幫助判斷AI軟體是否安全。此工作流旨在通過提供檢查來源的指導、第三方模型風險管理以及評估完整AI應用來源,來提升AI安全,基於現有的SSDF和SLSA安全原則,適用於AI和傳統軟體。
  2. 為改變中的網路安全環境準備防禦者: 處理日常AI治理對安全人員來說可能是一個真正的挑戰。此工作流將創建一個防禦者框架,幫助他們識別投資方向和使用哪些緩解技術來應對AI的安全影響。該框架將隨著AI模型在進攻性網路安全方面的進展而成長。
  3. AI安全治理: AI安全治理需要新資源和對AI安全獨特性的理解。CoSAI將制定風險和控制清單、檢查清單和評分卡,幫助從業人員評估其準備情況,管理、監控和報告其AI產品的安全性。

此外,CoSAI將與Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等組織合作,推動負責任的AI發展。

下一步是什麼

隨著AI的不斷進展,我們全力確保我們的風險管理策略跟上步伐。過去一年,我們看到行業對確保AI安全的大力支持。更棒的是,我們看到來自開發者、專家和各規模公司的實際行動,幫助組織安全地使用AI。

AI開發者需要——最終用戶也應該得到——一個能應對挑戰並負責任地抓住未來機會的安全框架。CoSAI是這一旅程的下一步,我們很快會有更多更新。想了解如何支持CoSAI,請訪問coalitionforsecureai.org。與此同時,請前往我們的Secure AI Framework頁面,了解更多關於Google在AI安全方面的工作。

相關文章
華納音樂收購AI歸因初創公司Sureel AI 華納音樂收購AI歸因初創公司Sureel AI 華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化 亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化 亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
微軟、Azure 與 AI 技術共同對抗加州野火風險 微軟、Azure 與 AI 技術共同對抗加州野火風險 微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
相關專題推薦
音樂創作 最佳用於歌曲草稿的 AI 旋律創作工具
最佳用於歌曲草稿的 AI 旋律創作工具

2026 年最新最佳頂級評分 AI 旋律創作工具,助力歌曲草稿創作!XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集,旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項,這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿,並顯著提升您的創意生產力。立即探索,發現您的完美工具!

8 個工具
xix.ai
聊天機器人 最適合面試練習的 AI 對話訓練工具
最適合面試練習的 AI 對話訓練工具

2026 年最新、最受好評的 AI 面試對話訓練工具,盡在 XIX.AI!這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具,這些工具均經過嚴格的實戰測試,能提供精準的回饋。 您將在此找到免費版與付費版的比較分析,以及詳細的排名榜單,助您挑選必試的選項,從而提升自信與技能。立即探索,發掘助您在面試中脫穎而出的完美工具!

12 個工具
xix.ai
設計與藝術 最適合進行創意實驗的 AI 風格轉移工具
最適合進行創意實驗的 AI 風格轉移工具

2026 年最新、最佳且評價最高的 AI 風格轉移工具,助您進行創意實驗!XIX.AI 精心精選了一系列強大且具革命性的必試工具,這些工具經實際測試與嚴格評比,能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性,協助創作者顯著提升生產力。 立即探索,找出最適合您的工具,並從今天開始創作吧!

9 個工具
xix.ai
漫畫創作 最適合視覺敘事的 AI 對話氣泡工具
最適合視覺敘事的 AI 對話氣泡工具

2026 年最新、最受好評的視覺敘事 AI 對話氣泡工具,現已登陸 XIX.AI!這份精心挑選的合集收錄了強大且具顛覆性的工具,能協助創作者提升生產力並突破創作瓶頸。 查看免費版與付費版的比較、參考實際測試結果,並查閱最新排行榜,找出最適合打造引人入勝視覺敘事的必試解決方案。立即探索,發掘您的理想工具!

10 個工具
xix.ai
會議助理 頂尖 AI 會議摘要工具:清晰追蹤決策與後續行動
頂尖 AI 會議摘要工具:清晰追蹤決策與後續行動

2026 年最新高評價最佳 AI 會議摘要工具,助您清晰追蹤決策並輕鬆進行後續跟進。這份精選清單展示了一系列強大且具顛覆性的解決方案,透過自動化會議記錄、識別關鍵行動項目,以及簡化所有專案的團隊協作,大幅提升生產力。 獲取免費版與付費版的比較分析,搭配實際測試報告及每週更新的排行榜,助您找到最合適的工具。立即探索,釋放您的 AI 優勢!

9 個工具
xix.ai
數據分析 最佳人工智慧資料清洗工具:快速處理缺失值與重複資料
最佳人工智慧資料清洗工具:快速處理缺失值與重複資料

2026年最新、最優秀且評分最高的AI資料清洗工具,可快速處理缺失值與重複資料問題。這份精心挑選的清單展示了那些功能強大、能帶來顛覆性變革的解決方案,可顯著提升工作效率。所有候選工具都經過了嚴格的實際應用測試,以確保其穩定性。您可以獲取免費版與付費版的對比資訊,找出最符合您需求的必備工具。即刻訪問XIX.AI,開啟您的AI優勢之旅。

11 個工具
xix.ai
評論 (38)
0/500
JohnNelson
JohnNelson 2026-06-22 16:00:32

Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔

EdwardEvans
EdwardEvans 2026-06-10 06:00:17

Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔

RaymondBaker
RaymondBaker 2026-02-12 00:01:15

Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍

StevenMartínez
StevenMartínez 2026-01-09 02:30:27

C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅

JustinWilson
JustinWilson 2025-11-27 04:30:36

Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔

JonathanRamirez
JonathanRamirez 2025-08-27 15:01:30

Wow, CoSAI sounds like a game-changer for AI security! It's cool to see big players teaming up for SAIF. Curious how this'll shape AI ethics debates. 🤔

OR