Cosai启动：创始成员团结起来

AI的快速发展需要一个能够跟上步伐的强大安全框架和标准。这就是为什么我们去年推出了安全AI框架（SAIF），并知道这只是一个开始。要使任何行业框架发挥作用，需要团队合作和一个协作的平台。这就是我们现在的处境。

在阿斯彭安全论坛上，我们兴奋地宣布与我们的行业伙伴共同推出安全AI联盟（CoSAI）。过去一年，我们一直在努力组建这个联盟，旨在应对AI带来的独特安全挑战，无论是现在还是未来。

CoSAI的创始成员包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企业。我们将在国际标准和开源组织OASIS Open下设立基地。

介绍CoSAI的首批工作流

从个体开发者到大公司，每个人都在致力于采用共同的安全标准和最佳实践，CoSAI将支持这一AI安全的集体努力。今天，我们将启动联盟重点关注的首批三个领域，与行业和学术界携手合作：

1. AI系统的软件供应链安全： Google一直在推动将SLSA Provenance扩展到AI模型，通过追踪AI软件的创建和供应链处理来判断其是否安全。该工作流旨在通过提供检查来源、管理第三方模型风险以及评估完整AI应用来源的指导意见来增强AI安全，基于现有的SSDF和SLSA安全原则，适用于AI和传统软件。
2. 为不断变化的网络安全环境准备防御者： 处理日常AI治理对安全人员来说可能是一个真正的难题。该工作流将创建一个防御者框架，帮助他们确定投资重点和采用哪些缓解技术来应对AI的安全影响。该框架将随着AI模型在进攻性网络安全方面的进步而发展。
3. AI安全治理： 治理AI安全需要新资源和对AI安全独特性的理解。CoSAI将制定风险和控制清单、检查表和评分卡，帮助从业者评估他们的准备情况，管理、监控和报告其AI产品的安全性。

此外，CoSAI将与Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等组织合作，共同推动负责任的AI发展。

下一步是什么

随着AI不断向前发展，我们全力以赴确保我们的风险管理策略能够跟上步伐。过去一年，我们看到了行业对确保AI安全的大力支持。更令人振奋的是，我们看到开发者、专家和各种规模的公司采取了实际行动，帮助组织安全地使用AI。

AI开发者需要——最终用户也应该得到——一个能够应对挑战并负责任地抓住未来机会的安全框架。CoSAI是这一旅程的下一个重要步骤，我们将很快提供更多更新。要了解如何支持CoSAI，请访问coalitionforsecureai.org。同时，请访问我们的安全AI框架页面，了解更多关于Google在AI安全方面的工作。