Cosai啟動:創始成員團結起來

AI的快速發展需要一個強大的安全框架和標準來跟上步伐。這就是為什麼我們去年推出了安全AI框架(SAIF),並知道這只是個開始。要讓任何行業框架運作,你需要團隊合作和一個協作的平台。這就是我們現在的處境。
在Aspen安全論壇上,我們很高興宣布與我們的行業夥伴共同推出安全AI聯盟(CoSAI)。過去一年,我們努力將這個聯盟凝聚在一起,旨在應對AI帶來的獨特安全挑戰,無論是現在還是未來。
CoSAI的創始成員包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企業。我們在國際標準和開源組織OASIS Open下設立基地。
介紹CoSAI的首個工作流
從個人開發者到大公司,每個人都致力於採用共同的安全標準和最佳實踐,CoSAI將支持這一集體努力,推動AI安全。今天,我們將啟動聯盟將專注的三個首要領域,與行業和學術界攜手合作:
- AI系統的軟體供應鏈安全: Google一直在推動將SLSA Provenance擴展到AI模型,通過追蹤其創建和供應鏈處理,幫助判斷AI軟體是否安全。此工作流旨在通過提供檢查來源的指導、第三方模型風險管理以及評估完整AI應用來源,來提升AI安全,基於現有的SSDF和SLSA安全原則,適用於AI和傳統軟體。
- 為改變中的網路安全環境準備防禦者: 處理日常AI治理對安全人員來說可能是一個真正的挑戰。此工作流將創建一個防禦者框架,幫助他們識別投資方向和使用哪些緩解技術來應對AI的安全影響。該框架將隨著AI模型在進攻性網路安全方面的進展而成長。
- AI安全治理: AI安全治理需要新資源和對AI安全獨特性的理解。CoSAI將制定風險和控制清單、檢查清單和評分卡,幫助從業人員評估其準備情況,管理、監控和報告其AI產品的安全性。
此外,CoSAI將與Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等組織合作,推動負責任的AI發展。
下一步是什麼
隨著AI的不斷進展,我們全力確保我們的風險管理策略跟上步伐。過去一年,我們看到行業對確保AI安全的大力支持。更棒的是,我們看到來自開發者、專家和各規模公司的實際行動,幫助組織安全地使用AI。
AI開發者需要——最終用戶也應該得到——一個能應對挑戰並負責任地抓住未來機會的安全框架。CoSAI是這一旅程的下一步,我們很快會有更多更新。想了解如何支持CoSAI,請訪問coalitionforsecureai.org。與此同時,請前往我們的Secure AI Framework頁面,了解更多關於Google在AI安全方面的工作。
相關文章
WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能
廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布,將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容,同時也能管理留言、更新與修正元資料,並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制,網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能,網站幾乎可以完全由人工指導的 AI 代理
Kakao Mobility 概述了針對實體人工智慧的第 4 級自動駕駛路線圖
Kakao Mobility 計畫內部開發第 4 級自動駕駛技術,作為其實體人工智慧策略的一環。在首爾COEX舉行的2026年世界資訊科技展(World IT Show)會議上,Kakao Mobility副總裁兼實體AI部門負責人金鎮奎(Kim Jin-kyu)發表了該發展藍圖。他的演講聚焦於實體AI時代以移動平台為核心的自動駕駛服務。據韓聯社報導,這場名為「超越構想,付諸行動:AI 推動現
巴里·迪勒:隨著通用人工智慧(AGI)日益臨近,對山姆·奧特曼的信任已無關緊要
儘管近期有報導指出相反的看法,但億萬富翁媒體大亨巴里·迪勒並不認為 OpenAI 執行長山姆·奧特曼不可信。迪勒本週在《華爾街日報》的「萬物未來」會議上發言時,為奧特曼辯護;奧特曼此前曾遭到部分前同事和董事會成員指控,指稱他偶爾會採取操縱和欺騙手段。身為奧特曼好友的迪勒,當時正回應一個關於人們是否應信任奧特曼、以確保人工智慧造福人類的問題。具體而言,提問者探討了被稱為「通用人工智慧」(AGI)的理
相關專題推薦
評論 (36)
0/500
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔
Wow, CoSAI sounds like a game-changer for AI security! It's cool to see big players teaming up for SAIF. Curious how this'll shape AI ethics debates. 🤔
This CoSAI initiative sounds promising! 😊 It's cool to see big players teaming up for AI security, but I wonder how they'll balance innovation with strict standards. Could be a game-changer if done right!

AI的快速發展需要一個強大的安全框架和標準來跟上步伐。這就是為什麼我們去年推出了安全AI框架(SAIF),並知道這只是個開始。要讓任何行業框架運作,你需要團隊合作和一個協作的平台。這就是我們現在的處境。
在Aspen安全論壇上,我們很高興宣布與我們的行業夥伴共同推出安全AI聯盟(CoSAI)。過去一年,我們努力將這個聯盟凝聚在一起,旨在應對AI帶來的獨特安全挑戰,無論是現在還是未來。
CoSAI的創始成員包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企業。我們在國際標準和開源組織OASIS Open下設立基地。
介紹CoSAI的首個工作流
從個人開發者到大公司,每個人都致力於採用共同的安全標準和最佳實踐,CoSAI將支持這一集體努力,推動AI安全。今天,我們將啟動聯盟將專注的三個首要領域,與行業和學術界攜手合作:
- AI系統的軟體供應鏈安全: Google一直在推動將SLSA Provenance擴展到AI模型,通過追蹤其創建和供應鏈處理,幫助判斷AI軟體是否安全。此工作流旨在通過提供檢查來源的指導、第三方模型風險管理以及評估完整AI應用來源,來提升AI安全,基於現有的SSDF和SLSA安全原則,適用於AI和傳統軟體。
- 為改變中的網路安全環境準備防禦者: 處理日常AI治理對安全人員來說可能是一個真正的挑戰。此工作流將創建一個防禦者框架,幫助他們識別投資方向和使用哪些緩解技術來應對AI的安全影響。該框架將隨著AI模型在進攻性網路安全方面的進展而成長。
- AI安全治理: AI安全治理需要新資源和對AI安全獨特性的理解。CoSAI將制定風險和控制清單、檢查清單和評分卡,幫助從業人員評估其準備情況,管理、監控和報告其AI產品的安全性。
此外,CoSAI將與Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等組織合作,推動負責任的AI發展。
下一步是什麼
隨著AI的不斷進展,我們全力確保我們的風險管理策略跟上步伐。過去一年,我們看到行業對確保AI安全的大力支持。更棒的是,我們看到來自開發者、專家和各規模公司的實際行動,幫助組織安全地使用AI。
AI開發者需要——最終用戶也應該得到——一個能應對挑戰並負責任地抓住未來機會的安全框架。CoSAI是這一旅程的下一步,我們很快會有更多更新。想了解如何支持CoSAI,請訪問coalitionforsecureai.org。與此同時,請前往我們的Secure AI Framework頁面,了解更多關於Google在AI安全方面的工作。
WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能
廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布,將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容,同時也能管理留言、更新與修正元資料,並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制,網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能,網站幾乎可以完全由人工指導的 AI 代理
巴里·迪勒:隨著通用人工智慧(AGI)日益臨近,對山姆·奧特曼的信任已無關緊要
儘管近期有報導指出相反的看法,但億萬富翁媒體大亨巴里·迪勒並不認為 OpenAI 執行長山姆·奧特曼不可信。迪勒本週在《華爾街日報》的「萬物未來」會議上發言時,為奧特曼辯護;奧特曼此前曾遭到部分前同事和董事會成員指控,指稱他偶爾會採取操縱和欺騙手段。身為奧特曼好友的迪勒,當時正回應一個關於人們是否應信任奧特曼、以確保人工智慧造福人類的問題。具體而言,提問者探討了被稱為「通用人工智慧」(AGI)的理
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔
Wow, CoSAI sounds like a game-changer for AI security! It's cool to see big players teaming up for SAIF. Curious how this'll shape AI ethics debates. 🤔
This CoSAI initiative sounds promising! 😊 It's cool to see big players teaming up for AI security, but I wonder how they'll balance innovation with strict standards. Could be a game-changer if done right!





首頁






