选项
首页
新闻
Cosai启动:创始成员团结起来

Cosai启动:创始成员团结起来

2025-04-10
201

Cosai启动:创始成员团结起来

AI的快速发展需要一个能够跟上步伐的强大安全框架和标准。这就是为什么我们去年推出了安全AI框架(SAIF),并知道这只是一个开始。要使任何行业框架发挥作用,需要团队合作和一个协作的平台。这就是我们现在的处境。

在阿斯彭安全论坛上,我们兴奋地宣布与我们的行业伙伴共同推出安全AI联盟(CoSAI)。过去一年,我们一直在努力组建这个联盟,旨在应对AI带来的独特安全挑战,无论是现在还是未来。

CoSAI的创始成员包括Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal和Wiz等知名企业。我们将在国际标准和开源组织OASIS Open下设立基地。

介绍CoSAI的首批工作流

从个体开发者到大公司,每个人都在致力于采用共同的安全标准和最佳实践,CoSAI将支持这一AI安全的集体努力。今天,我们将启动联盟重点关注的首批三个领域,与行业和学术界携手合作:

  1. AI系统的软件供应链安全: Google一直在推动将SLSA Provenance扩展到AI模型,通过追踪AI软件的创建和供应链处理来判断其是否安全。该工作流旨在通过提供检查来源、管理第三方模型风险以及评估完整AI应用来源的指导意见来增强AI安全,基于现有的SSDF和SLSA安全原则,适用于AI和传统软件。
  2. 为不断变化的网络安全环境准备防御者: 处理日常AI治理对安全人员来说可能是一个真正的难题。该工作流将创建一个防御者框架,帮助他们确定投资重点和采用哪些缓解技术来应对AI的安全影响。该框架将随着AI模型在进攻性网络安全方面的进步而发展。
  3. AI安全治理: 治理AI安全需要新资源和对AI安全独特性的理解。CoSAI将制定风险和控制清单、检查表和评分卡,帮助从业者评估他们的准备情况,管理、监控和报告其AI产品的安全性。

此外,CoSAI将与Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等组织合作,共同推动负责任的AI发展。

下一步是什么

随着AI不断向前发展,我们全力以赴确保我们的风险管理策略能够跟上步伐。过去一年,我们看到了行业对确保AI安全的大力支持。更令人振奋的是,我们看到开发者、专家和各种规模的公司采取了实际行动,帮助组织安全地使用AI。

AI开发者需要——最终用户也应该得到——一个能够应对挑战并负责任地抓住未来机会的安全框架。CoSAI是这一旅程的下一个重要步骤,我们将很快提供更多更新。要了解如何支持CoSAI,请访问coalitionforsecureai.org。同时,请访问我们的安全AI框架页面,了解更多关于Google在AI安全方面的工作。

相关文章
WordPress.com 现已支持 AI 助手撰写和发布文章,还有更多功能 WordPress.com 现已支持 AI 助手撰写和发布文章,还有更多功能 广受欢迎的网站托管和发布平台 WordPress.com 现已开始引入人工智能助手——这一举措或将重塑网络的呈现方式。该公司于周五宣布,将允许人工智能助手在用户网站上起草、编辑和发布内容,同时还能管理评论、更新和修正元数据,并通过标签和分类对内容进行整理。所有这些操作均通过一个界面进行控制,网站所有者只需使用自然语言命令说明其需求即可。凭借这些新功能,网站几乎可以完全由人工指导的AI代理来创建和运
Kakao Mobility 概述了面向物理人工智能的 L4 级自动驾驶路线图 Kakao Mobility 概述了面向物理人工智能的 L4 级自动驾驶路线图 Kakao Mobility 计划内部自主研发 L4 级自动驾驶技术,作为其物理人工智能战略的一部分。在首尔COEX举行的2026世界IT展上,Kakao Mobility副总裁兼物理AI部门负责人金镇奎(Kim Jin-kyu)介绍了该路线图。他的演讲聚焦于物理AI时代基于出行平台构建的自动驾驶服务。据韩联社报道,这场题为“超越构想,付诸行动:AI驱动现实”的活动汇聚了来自17个国家的460
巴里·迪勒:随着通用人工智能的临近,对萨姆·阿尔特曼的信任已无关紧要 巴里·迪勒:随着通用人工智能的临近,对萨姆·阿尔特曼的信任已无关紧要 尽管近期有报道暗示相反的情况,但亿万富翁、媒体大亨巴里·迪勒并不认为OpenAI首席执行官山姆·阿尔特曼不可信。本周,迪勒在《华尔街日报》举办的“万物未来”峰会上发表演讲时,为阿尔特曼进行了辩护。此前,阿尔特曼曾遭到一些前同事和董事会成员的指责,称其有时会采取操纵和欺骗手段。作为阿尔特曼的朋友,迪勒是在回答一个关于人们是否应该信任阿尔特曼以确保人工智能造福人类的问题时作出上述表态的。具体而言,提问
相关专题推荐
写作 顶尖 AI 角色设定生成器:生成一致的角色动机与致命缺陷
顶尖 AI 角色设定生成器:生成一致的角色动机与致命缺陷

探索2026年最优秀的AI人物设定生成工具,助您塑造鲜活立体的角色。XIX.AI精心筛选的这份清单汇集了广受好评、颠覆传统的工具,能够生成具有内在逻辑的动机和致命缺陷。通过实际测试对比免费与付费选项。立即释放您的叙事潜能。

10 个工具
xix.ai
商业 顶级 AI 定价优化软件:追踪竞争对手并自动调整店铺价格
顶级 AI 定价优化软件:追踪竞争对手并自动调整店铺价格

在 XIX.AI 上探索 2026 年最佳 AI 定价优化软件。我们精心挑选的清单汇集了备受好评、具有颠覆性意义的工具,这些工具不仅能追踪竞争对手,还能自动调整您的店铺价格,从而实现利润最大化。通过实际测试对比免费与付费选项。立即掌握您的定价优势。

10 个工具
xix.ai
代码 最佳 AI 代码审查工具:自动确保代码符合规范,并重构遗留代码库文件
最佳 AI 代码审查工具:自动确保代码符合规范,并重构遗留代码库文件

在 XIX.AI 上探索 2026 年最佳 AI 代码审查工具。我们的精选列表汇集了备受好评、具有颠覆性的工具,可自动确保代码规范并重构遗留代码库文件。通过实际测试和每周更新的排行榜,对比免费与付费选项。立即开启您的 AI 优势。

10 个工具
xix.ai
文字转语音 专为阅读障碍设计的顶级AI语音合成应用:助力学生提升学习与阅读效率
专为阅读障碍设计的顶级AI语音合成应用:助力学生提升学习与阅读效率

探索2026年最新精选的高评分AI语音合成(TTS)应用,专为阅读障碍者提供支持。我们的专家评级对比了免费与付费工具,重点介绍了能够提升阅读效率和学习效果的强大功能。探索这些必试的、具有革命性意义的解决方案,释放学生的潜能。立即访问XIX.AI,开启您的探索之旅。

10 个工具
xix.ai
漫画创作 少年漫画顶级AI生成器:打造高能动作场面与特效
少年漫画顶级AI生成器:打造高能动作场面与特效

在 XIX.AI 探索 2026 年最优秀的少年漫画 AI 生成工具。我们精心筛选的这份高评分清单汇集了强大的工具,助您创作充满张力的动作场面和动态能量特效。通过实际测试对比免费与付费选项。释放您的创作潜能,立即开始创作史诗级漫画吧!

15 个工具
xix.ai
商业 最佳 AI 费用追踪工具:扫描收据并自动分类企业开支
最佳 AI 费用追踪工具:扫描收据并自动分类企业开支

2026年最新最佳AI报销管理工具:广受好评的解决方案,可自动扫描收据并分类企业支出。探索这些功能强大、颠覆传统的解决方案,助您轻松管理报销、精准追踪财务并简化合规流程。我们精心整理并每周更新的免费与付费选项对比指南,助您找到最适合的工具。通过XIX.AI的专家精选,释放您的AI优势。

10 个工具
xix.ai
评论 (36)
0/500
RaymondBaker
RaymondBaker 2026-02-12 00:01:15

Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍

StevenMartínez
StevenMartínez 2026-01-09 02:30:27

C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅

JustinWilson
JustinWilson 2025-11-27 04:30:36

Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔

JonathanRamirez
JonathanRamirez 2025-08-27 15:01:30

Wow, CoSAI sounds like a game-changer for AI security! It's cool to see big players teaming up for SAIF. Curious how this'll shape AI ethics debates. 🤔

BillyAdams
BillyAdams 2025-08-14 09:00:59

This CoSAI initiative sounds promising! 😊 It's cool to see big players teaming up for AI security, but I wonder how they'll balance innovation with strict standards. Could be a game-changer if done right!

RobertMartinez
RobertMartinez 2025-07-23 12:59:47

Wow, CoSAI sounds like a game-changer! Finally, some serious teamwork to lock down AI security. I’m curious how SAIF will evolve with all these big players collaborating. 🛡️

OR