Cosai启动:创始成员团结起来

AI的快速发展需要一个能够跟上步伐的强大安全框架和标准。这就是为什么我们去年推出了安全AI框架(SAIF),并知道这只是一个开始。要使任何行业框架发挥作用,需要团队合作和一个协作的平台。这就是我们现在的处境。
在阿斯彭安全论坛上,我们兴奋地宣布与我们的行业伙伴共同推出安全AI联盟(CoSAI)。过去一年,我们一直在努力组建这个联盟,旨在应对AI带来的独特安全挑战,无论是现在还是未来。
CoSAI的创始成员包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企业。我们将在国际标准和开源组织OASIS Open下设立基地。
介绍CoSAI的首批工作流
从个体开发者到大公司,每个人都在致力于采用共同的安全标准和最佳实践,CoSAI将支持这一AI安全的集体努力。今天,我们将启动联盟重点关注的首批三个领域,与行业和学术界携手合作:
- AI系统的软件供应链安全: Google一直在推动将SLSA Provenance扩展到AI模型,通过追踪AI软件的创建和供应链处理来判断其是否安全。该工作流旨在通过提供检查来源、管理第三方模型风险以及评估完整AI应用来源的指导意见来增强AI安全,基于现有的SSDF和SLSA安全原则,适用于AI和传统软件。
- 为不断变化的网络安全环境准备防御者: 处理日常AI治理对安全人员来说可能是一个真正的难题。该工作流将创建一个防御者框架,帮助他们确定投资重点和采用哪些缓解技术来应对AI的安全影响。该框架将随着AI模型在进攻性网络安全方面的进步而发展。
- AI安全治理: 治理AI安全需要新资源和对AI安全独特性的理解。CoSAI将制定风险和控制清单、检查表和评分卡,帮助从业者评估他们的准备情况,管理、监控和报告其AI产品的安全性。
此外,CoSAI将与Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等组织合作,共同推动负责任的AI发展。
下一步是什么
随着AI不断向前发展,我们全力以赴确保我们的风险管理策略能够跟上步伐。过去一年,我们看到了行业对确保AI安全的大力支持。更令人振奋的是,我们看到开发者、专家和各种规模的公司采取了实际行动,帮助组织安全地使用AI。
AI开发者需要——最终用户也应该得到——一个能够应对挑战并负责任地抓住未来机会的安全框架。CoSAI是这一旅程的下一个重要步骤,我们将很快提供更多更新。要了解如何支持CoSAI,请访问coalitionforsecureai.org。同时,请访问我们的安全AI框架页面,了解更多关于Google在AI安全方面的工作。
相关文章
WordPress.com 现已支持 AI 助手撰写和发布文章,还有更多功能
广受欢迎的网站托管和发布平台 WordPress.com 现已开始引入人工智能助手——这一举措或将重塑网络的呈现方式。该公司于周五宣布,将允许人工智能助手在用户网站上起草、编辑和发布内容,同时还能管理评论、更新和修正元数据,并通过标签和分类对内容进行整理。所有这些操作均通过一个界面进行控制,网站所有者只需使用自然语言命令说明其需求即可。凭借这些新功能,网站几乎可以完全由人工指导的AI代理来创建和运
Kakao Mobility 概述了面向物理人工智能的 L4 级自动驾驶路线图
Kakao Mobility 计划内部自主研发 L4 级自动驾驶技术,作为其物理人工智能战略的一部分。在首尔COEX举行的2026世界IT展上,Kakao Mobility副总裁兼物理AI部门负责人金镇奎(Kim Jin-kyu)介绍了该路线图。他的演讲聚焦于物理AI时代基于出行平台构建的自动驾驶服务。据韩联社报道,这场题为“超越构想,付诸行动:AI驱动现实”的活动汇聚了来自17个国家的460
巴里·迪勒:随着通用人工智能的临近,对萨姆·阿尔特曼的信任已无关紧要
尽管近期有报道暗示相反的情况,但亿万富翁、媒体大亨巴里·迪勒并不认为OpenAI首席执行官山姆·阿尔特曼不可信。本周,迪勒在《华尔街日报》举办的“万物未来”峰会上发表演讲时,为阿尔特曼进行了辩护。此前,阿尔特曼曾遭到一些前同事和董事会成员的指责,称其有时会采取操纵和欺骗手段。作为阿尔特曼的朋友,迪勒是在回答一个关于人们是否应该信任阿尔特曼以确保人工智能造福人类的问题时作出上述表态的。具体而言,提问
相关专题推荐
评论 (36)
0/500
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔
Wow, CoSAI sounds like a game-changer for AI security! It's cool to see big players teaming up for SAIF. Curious how this'll shape AI ethics debates. 🤔
This CoSAI initiative sounds promising! 😊 It's cool to see big players teaming up for AI security, but I wonder how they'll balance innovation with strict standards. Could be a game-changer if done right!

AI的快速发展需要一个能够跟上步伐的强大安全框架和标准。这就是为什么我们去年推出了安全AI框架(SAIF),并知道这只是一个开始。要使任何行业框架发挥作用,需要团队合作和一个协作的平台。这就是我们现在的处境。
在阿斯彭安全论坛上,我们兴奋地宣布与我们的行业伙伴共同推出安全AI联盟(CoSAI)。过去一年,我们一直在努力组建这个联盟,旨在应对AI带来的独特安全挑战,无论是现在还是未来。
CoSAI的创始成员包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企业。我们将在国际标准和开源组织OASIS Open下设立基地。
介绍CoSAI的首批工作流
从个体开发者到大公司,每个人都在致力于采用共同的安全标准和最佳实践,CoSAI将支持这一AI安全的集体努力。今天,我们将启动联盟重点关注的首批三个领域,与行业和学术界携手合作:
- AI系统的软件供应链安全: Google一直在推动将SLSA Provenance扩展到AI模型,通过追踪AI软件的创建和供应链处理来判断其是否安全。该工作流旨在通过提供检查来源、管理第三方模型风险以及评估完整AI应用来源的指导意见来增强AI安全,基于现有的SSDF和SLSA安全原则,适用于AI和传统软件。
- 为不断变化的网络安全环境准备防御者: 处理日常AI治理对安全人员来说可能是一个真正的难题。该工作流将创建一个防御者框架,帮助他们确定投资重点和采用哪些缓解技术来应对AI的安全影响。该框架将随着AI模型在进攻性网络安全方面的进步而发展。
- AI安全治理: 治理AI安全需要新资源和对AI安全独特性的理解。CoSAI将制定风险和控制清单、检查表和评分卡,帮助从业者评估他们的准备情况,管理、监控和报告其AI产品的安全性。
此外,CoSAI将与Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等组织合作,共同推动负责任的AI发展。
下一步是什么
随着AI不断向前发展,我们全力以赴确保我们的风险管理策略能够跟上步伐。过去一年,我们看到了行业对确保AI安全的大力支持。更令人振奋的是,我们看到开发者、专家和各种规模的公司采取了实际行动,帮助组织安全地使用AI。
AI开发者需要——最终用户也应该得到——一个能够应对挑战并负责任地抓住未来机会的安全框架。CoSAI是这一旅程的下一个重要步骤,我们将很快提供更多更新。要了解如何支持CoSAI,请访问coalitionforsecureai.org。同时,请访问我们的安全AI框架页面,了解更多关于Google在AI安全方面的工作。
WordPress.com 现已支持 AI 助手撰写和发布文章,还有更多功能
广受欢迎的网站托管和发布平台 WordPress.com 现已开始引入人工智能助手——这一举措或将重塑网络的呈现方式。该公司于周五宣布,将允许人工智能助手在用户网站上起草、编辑和发布内容,同时还能管理评论、更新和修正元数据,并通过标签和分类对内容进行整理。所有这些操作均通过一个界面进行控制,网站所有者只需使用自然语言命令说明其需求即可。凭借这些新功能,网站几乎可以完全由人工指导的AI代理来创建和运
巴里·迪勒:随着通用人工智能的临近,对萨姆·阿尔特曼的信任已无关紧要
尽管近期有报道暗示相反的情况,但亿万富翁、媒体大亨巴里·迪勒并不认为OpenAI首席执行官山姆·阿尔特曼不可信。本周,迪勒在《华尔街日报》举办的“万物未来”峰会上发表演讲时,为阿尔特曼进行了辩护。此前,阿尔特曼曾遭到一些前同事和董事会成员的指责,称其有时会采取操纵和欺骗手段。作为阿尔特曼的朋友,迪勒是在回答一个关于人们是否应该信任阿尔特曼以确保人工智能造福人类的问题时作出上述表态的。具体而言,提问
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔
Wow, CoSAI sounds like a game-changer for AI security! It's cool to see big players teaming up for SAIF. Curious how this'll shape AI ethics debates. 🤔
This CoSAI initiative sounds promising! 😊 It's cool to see big players teaming up for AI security, but I wonder how they'll balance innovation with strict standards. Could be a game-changer if done right!





首页






