Cosai啟動：創始成員團結起來

AI的快速發展需要一個強大的安全框架和標準來跟上步伐。這就是為什麼我們去年推出了安全AI框架（SAIF），並知道這只是個開始。要讓任何行業框架運作，你需要團隊合作和一個協作的平台。這就是我們現在的處境。

在Aspen安全論壇上，我們很高興宣布與我們的行業夥伴共同推出安全AI聯盟（CoSAI）。過去一年，我們努力將這個聯盟凝聚在一起，旨在應對AI帶來的獨特安全挑戰，無論是現在還是未來。

CoSAI的創始成員包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企業。我們在國際標準和開源組織OASIS Open下設立基地。

介紹CoSAI的首個工作流

從個人開發者到大公司，每個人都致力於採用共同的安全標準和最佳實踐，CoSAI將支持這一集體努力，推動AI安全。今天，我們將啟動聯盟將專注的三個首要領域，與行業和學術界攜手合作：

1. AI系統的軟體供應鏈安全： Google一直在推動將SLSA Provenance擴展到AI模型，通過追蹤其創建和供應鏈處理，幫助判斷AI軟體是否安全。此工作流旨在通過提供檢查來源的指導、第三方模型風險管理以及評估完整AI應用來源，來提升AI安全，基於現有的SSDF和SLSA安全原則，適用於AI和傳統軟體。
2. 為改變中的網路安全環境準備防禦者： 處理日常AI治理對安全人員來說可能是一個真正的挑戰。此工作流將創建一個防禦者框架，幫助他們識別投資方向和使用哪些緩解技術來應對AI的安全影響。該框架將隨著AI模型在進攻性網路安全方面的進展而成長。
3. AI安全治理： AI安全治理需要新資源和對AI安全獨特性的理解。CoSAI將制定風險和控制清單、檢查清單和評分卡，幫助從業人員評估其準備情況，管理、監控和報告其AI產品的安全性。

此外，CoSAI將與Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等組織合作，推動負責任的AI發展。

下一步是什麼

隨著AI的不斷進展，我們全力確保我們的風險管理策略跟上步伐。過去一年，我們看到行業對確保AI安全的大力支持。更棒的是，我們看到來自開發者、專家和各規模公司的實際行動，幫助組織安全地使用AI。

AI開發者需要——最終用戶也應該得到——一個能應對挑戰並負責任地抓住未來機會的安全框架。CoSAI是這一旅程的下一步，我們很快會有更多更新。想了解如何支持CoSAI，請訪問coalitionforsecureai.org。與此同時，請前往我們的Secure AI Framework頁面，了解更多關於Google在AI安全方面的工作。