MSC合作就AI风险和机会合作

六十年来,慕尼黑安全会议一直是世界领导人、企业、专家和民间社会进行公开讨论、加强和保护民主及全球秩序的重要聚集地。随着地缘政治紧张局势加剧、全球关键选举以及更为先进的网络威胁,这些讨论比以往任何时候都更为重要。人工智能在进攻和防御角色中的出现为对话增添了全新层面。
就在本周,Google的威胁分析小组(TAG)联合Mandiant和信任与安全团队发布了一份新报告。报告揭示了伊朗支持的团体如何利用信息战来影响公众对以色列-哈马斯冲突的看法。报告还更新了俄罗斯在乌克兰战争中的网络方面的最新情况。另外,TAG强调了政府和其他不良行为者日益使用商业间谍软件,针对记者、人权活动家、异见人士和反对派政治家。我们也不应忘记,威胁行为者利用旧系统漏洞危害政府和私营公司安全的持续报道。
在这些不断升级的威胁中,我们迎来了一个黄金机会,利用人工智能增强全球民主的网络防御,为企业、政府和组织提供曾经只有最大玩家才能获得的防御工具。本周在慕尼黑,我们将深入探讨如何通过新的投资、承诺和伙伴关系来应对人工智能风险并充分利用其潜力。毕竟,在一个攻击者可以利用人工智能创新而防御者却无法做到的世界中,民主无法蓬勃发展。
利用人工智能加强网络防御
多年来,网络威胁一直是安全专家、政府、企业和民间社会的难题。人工智能有潜力改变这种平衡,为防御者提供对攻击者的真正优势。但是,像任何技术一样,如果人工智能的开发和使用不安全,它可能是一把双刃剑。
这就是为什么我们今天启动了人工智能网络防御倡议。倡议旨在通过提出的政策和技术议程,挖掘人工智能的安全潜力,帮助确保、赋能和推进我们共同的数字未来。人工智能网络防御倡议建立在我们的安全人工智能框架(SAIF)之上,该框架帮助组织从一开始就创建安全的AI工具和产品。
作为该倡议的一部分,我们正在推出一个新的“人工智能用于网络安全”初创企业队列,以增强跨大西洋网络安全领域。我们还将我们在欧洲的1500万美元网络安全培训承诺增加200万美元,以支持网络安全研究,并开源我们的Google人工智能驱动的文件类型识别系统Magika。此外,我们继续向安全、人工智能就绪的全球数据中心投入资金。到2024年底,我们将在欧洲数据中心投资超过50亿美元,帮助确保对一系列数字服务的安全、可靠访问,包括我们的Vertex AI平台的生成人工智能功能。
保护民主选举
今年,欧洲、美国、印度和其他许多国家都将举行选举。我们在支持民主选举完整性方面有着良好记录,我们刚刚宣布了在议会选举前的欧盟预防性辟谣活动。这项活动通过社交媒体上的短视频广告,教导人们如何在看到常见操纵手段之前识别它们,将于今春在法国、德国、意大利、比利时和波兰启动。我们也全力致力于继续努力,防止平台滥用,为选民提供高质量信息,并提供有关人工智能生成内容的详细信息,帮助他们做出更好的选择。
人们对人工智能被滥用创建深度伪造和误导选民表示合理担忧。但人工智能也提供了大规模防止滥用的独特机会。Google的信任与安全团队正直面这一问题,利用人工智能增强我们对抗滥用的努力,更有效地执行我们的政策,并快速适应新情况或声明。
我们还与行业内其他方合作,共享研究并共同应对威胁和滥用,包括欺骗性人工智能内容风险。就在上周,我们加入了内容来源与真实性联盟(C2PA),该联盟致力于开发内容凭证,以揭示人工智能生成内容的制作和编辑过程。这建立在我们与前沿模型论坛、人工智能伙伴关系和其他倡议围绕负责任人工智能的跨行业合作之上。
携手捍卫基于规则的国际秩序
慕尼黑安全会议作为应对民主挑战的场所经受住了时间的考验。六十年来,民主国家共同面对并克服了这些挑战,应对了人工智能带来的重大转变。现在,我们再次有机会——作为政府、企业、学术界和民间社会——聚集在一起,打造新的伙伴关系,发挥人工智能的积极潜力,并加强基于规则的世界秩序。
相关文章
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团(WMG)于周三确认,其正在收购Sureel AI,一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”,将其分解为各个组成部分,以追踪人工智能模型如何利用这些元素。通过此次收购,WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中,增强了我们的保护、控制和变现能力,确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权,”WMG首席执行官Robert Kync
亚马逊推出“Alexa for Shopping”,同时将Rufus边缘化
亚马逊推出了“Alexa for Shopping”,将 Rufus 购物聊天机器人 Alexa+ 整合到应用程序、网站和 Echo Show 设备中。该助手回答产品查询、比较商品、跟踪价格,并支持购物提醒。它还处理计划中的购物操作和符合条件的自动购买。据该公司称,“Alexa for Shopping”将 Rufus 的产品专业知识与 Alexa+ 的个性化助手上下文相结合。亚马逊表示,Rufus 在 2025 年协助了超过 3 亿客户进行产品研究、比较和购买。GeekWire 报道称,
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术,其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯(Juan Lavista Ferres)探讨了减轻环境损害的策略。据美国国家航空航天局(NASA)称,气候变化影响着地球上的每个人,其表现为气温上升、降雨模式改变以及海平面上升。NASA指出,有确凿证据表明地球正以史无前例的速度变暖,而人类活动是其主要驱动因素。随着全球气温上升,野火构成的威胁日益加剧。 在美
相关专题推荐
评论 (56)
0/500
Interesting to see MSC tackling AI risks now. Honestly, with all the election chaos and global tensions this year, focusing on AI governance feels both urgent and a bit like rearranging deck chairs on the Titanic? 🤔 Hope they move beyond just talk to some real, actionable frameworks.
MSC's collaboration on AI risks and opportunities is timely and crucial. It's great to see such initiatives amidst global tensions. However, the discussions could be more actionable. Still, a vital conversation to have! 🌍
Sự hợp tác của MSC về rủi ro và cơ hội của AI rất kịp thời và quan trọng. Rất thích thấy những sáng kiến như thế này giữa các căng thẳng toàn cầu. Tuy nhiên, các cuộc thảo luận có thể thực tế hơn. Dù sao cũng là cuộc trò chuyện quan trọng cần có! 🌍
A colaboração da MSC sobre riscos e oportunidades da IA é oportuna e crucial. É ótimo ver essas iniciativas em meio às tensões globais. No entanto, as discussões poderiam ser mais práticas. Ainda assim, uma conversa vital para se ter! 🌍
Сотрудничество MSC по рискам и возможностям ИИ своевременно и важно. Приятно видеть такие инициативы на фоне глобальных напряжений. Однако обсуждения могли бы быть более практичными. Тем не менее, важный разговор, который нужно вести! 🌍

六十年来,慕尼黑安全会议一直是世界领导人、企业、专家和民间社会进行公开讨论、加强和保护民主及全球秩序的重要聚集地。随着地缘政治紧张局势加剧、全球关键选举以及更为先进的网络威胁,这些讨论比以往任何时候都更为重要。人工智能在进攻和防御角色中的出现为对话增添了全新层面。
就在本周,Google的威胁分析小组(TAG)联合Mandiant和信任与安全团队发布了一份新报告。报告揭示了伊朗支持的团体如何利用信息战来影响公众对以色列-哈马斯冲突的看法。报告还更新了俄罗斯在乌克兰战争中的网络方面的最新情况。另外,TAG强调了政府和其他不良行为者日益使用商业间谍软件,针对记者、人权活动家、异见人士和反对派政治家。我们也不应忘记,威胁行为者利用旧系统漏洞危害政府和私营公司安全的持续报道。
在这些不断升级的威胁中,我们迎来了一个黄金机会,利用人工智能增强全球民主的网络防御,为企业、政府和组织提供曾经只有最大玩家才能获得的防御工具。本周在慕尼黑,我们将深入探讨如何通过新的投资、承诺和伙伴关系来应对人工智能风险并充分利用其潜力。毕竟,在一个攻击者可以利用人工智能创新而防御者却无法做到的世界中,民主无法蓬勃发展。
利用人工智能加强网络防御
多年来,网络威胁一直是安全专家、政府、企业和民间社会的难题。人工智能有潜力改变这种平衡,为防御者提供对攻击者的真正优势。但是,像任何技术一样,如果人工智能的开发和使用不安全,它可能是一把双刃剑。
这就是为什么我们今天启动了人工智能网络防御倡议。倡议旨在通过提出的政策和技术议程,挖掘人工智能的安全潜力,帮助确保、赋能和推进我们共同的数字未来。人工智能网络防御倡议建立在我们的安全人工智能框架(SAIF)之上,该框架帮助组织从一开始就创建安全的AI工具和产品。
作为该倡议的一部分,我们正在推出一个新的“人工智能用于网络安全”初创企业队列,以增强跨大西洋网络安全领域。我们还将我们在欧洲的1500万美元网络安全培训承诺增加200万美元,以支持网络安全研究,并开源我们的Google人工智能驱动的文件类型识别系统Magika。此外,我们继续向安全、人工智能就绪的全球数据中心投入资金。到2024年底,我们将在欧洲数据中心投资超过50亿美元,帮助确保对一系列数字服务的安全、可靠访问,包括我们的Vertex AI平台的生成人工智能功能。
保护民主选举
今年,欧洲、美国、印度和其他许多国家都将举行选举。我们在支持民主选举完整性方面有着良好记录,我们刚刚宣布了在议会选举前的欧盟预防性辟谣活动。这项活动通过社交媒体上的短视频广告,教导人们如何在看到常见操纵手段之前识别它们,将于今春在法国、德国、意大利、比利时和波兰启动。我们也全力致力于继续努力,防止平台滥用,为选民提供高质量信息,并提供有关人工智能生成内容的详细信息,帮助他们做出更好的选择。
人们对人工智能被滥用创建深度伪造和误导选民表示合理担忧。但人工智能也提供了大规模防止滥用的独特机会。Google的信任与安全团队正直面这一问题,利用人工智能增强我们对抗滥用的努力,更有效地执行我们的政策,并快速适应新情况或声明。
我们还与行业内其他方合作,共享研究并共同应对威胁和滥用,包括欺骗性人工智能内容风险。就在上周,我们加入了内容来源与真实性联盟(C2PA),该联盟致力于开发内容凭证,以揭示人工智能生成内容的制作和编辑过程。这建立在我们与前沿模型论坛、人工智能伙伴关系和其他倡议围绕负责任人工智能的跨行业合作之上。
携手捍卫基于规则的国际秩序
慕尼黑安全会议作为应对民主挑战的场所经受住了时间的考验。六十年来,民主国家共同面对并克服了这些挑战,应对了人工智能带来的重大转变。现在,我们再次有机会——作为政府、企业、学术界和民间社会——聚集在一起,打造新的伙伴关系,发挥人工智能的积极潜力,并加强基于规则的世界秩序。
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团(WMG)于周三确认,其正在收购Sureel AI,一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”,将其分解为各个组成部分,以追踪人工智能模型如何利用这些元素。通过此次收购,WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中,增强了我们的保护、控制和变现能力,确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权,”WMG首席执行官Robert Kync
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术,其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯(Juan Lavista Ferres)探讨了减轻环境损害的策略。据美国国家航空航天局(NASA)称,气候变化影响着地球上的每个人,其表现为气温上升、降雨模式改变以及海平面上升。NASA指出,有确凿证据表明地球正以史无前例的速度变暖,而人类活动是其主要驱动因素。随着全球气温上升,野火构成的威胁日益加剧。 在美
Interesting to see MSC tackling AI risks now. Honestly, with all the election chaos and global tensions this year, focusing on AI governance feels both urgent and a bit like rearranging deck chairs on the Titanic? 🤔 Hope they move beyond just talk to some real, actionable frameworks.
MSC's collaboration on AI risks and opportunities is timely and crucial. It's great to see such initiatives amidst global tensions. However, the discussions could be more actionable. Still, a vital conversation to have! 🌍
Sự hợp tác của MSC về rủi ro và cơ hội của AI rất kịp thời và quan trọng. Rất thích thấy những sáng kiến như thế này giữa các căng thẳng toàn cầu. Tuy nhiên, các cuộc thảo luận có thể thực tế hơn. Dù sao cũng là cuộc trò chuyện quan trọng cần có! 🌍
A colaboração da MSC sobre riscos e oportunidades da IA é oportuna e crucial. É ótimo ver essas iniciativas em meio às tensões globais. No entanto, as discussões poderiam ser mais práticas. Ainda assim, uma conversa vital para se ter! 🌍
Сотрудничество MSC по рискам и возможностям ИИ своевременно и важно. Приятно видеть такие инициативы на фоне глобальных напряжений. Однако обсуждения могли бы быть более практичными. Тем не менее, важный разговор, который нужно вести! 🌍





首页






