MSC合作就AI风险和机会合作

六十年来,慕尼黑安全会议一直是世界领导人、企业、专家和民间社会进行公开讨论、加强和保护民主及全球秩序的重要聚集地。随着地缘政治紧张局势加剧、全球关键选举以及更为先进的网络威胁,这些讨论比以往任何时候都更为重要。人工智能在进攻和防御角色中的出现为对话增添了全新层面。
就在本周,Google的威胁分析小组(TAG)联合Mandiant和信任与安全团队发布了一份新报告。报告揭示了伊朗支持的团体如何利用信息战来影响公众对以色列-哈马斯冲突的看法。报告还更新了俄罗斯在乌克兰战争中的网络方面的最新情况。另外,TAG强调了政府和其他不良行为者日益使用商业间谍软件,针对记者、人权活动家、异见人士和反对派政治家。我们也不应忘记,威胁行为者利用旧系统漏洞危害政府和私营公司安全的持续报道。
在这些不断升级的威胁中,我们迎来了一个黄金机会,利用人工智能增强全球民主的网络防御,为企业、政府和组织提供曾经只有最大玩家才能获得的防御工具。本周在慕尼黑,我们将深入探讨如何通过新的投资、承诺和伙伴关系来应对人工智能风险并充分利用其潜力。毕竟,在一个攻击者可以利用人工智能创新而防御者却无法做到的世界中,民主无法蓬勃发展。
利用人工智能加强网络防御
多年来,网络威胁一直是安全专家、政府、企业和民间社会的难题。人工智能有潜力改变这种平衡,为防御者提供对攻击者的真正优势。但是,像任何技术一样,如果人工智能的开发和使用不安全,它可能是一把双刃剑。
这就是为什么我们今天启动了人工智能网络防御倡议。倡议旨在通过提出的政策和技术议程,挖掘人工智能的安全潜力,帮助确保、赋能和推进我们共同的数字未来。人工智能网络防御倡议建立在我们的安全人工智能框架(SAIF)之上,该框架帮助组织从一开始就创建安全的AI工具和产品。
作为该倡议的一部分,我们正在推出一个新的“人工智能用于网络安全”初创企业队列,以增强跨大西洋网络安全领域。我们还将我们在欧洲的1500万美元网络安全培训承诺增加200万美元,以支持网络安全研究,并开源我们的Google人工智能驱动的文件类型识别系统Magika。此外,我们继续向安全、人工智能就绪的全球数据中心投入资金。到2024年底,我们将在欧洲数据中心投资超过50亿美元,帮助确保对一系列数字服务的安全、可靠访问,包括我们的Vertex AI平台的生成人工智能功能。
保护民主选举
今年,欧洲、美国、印度和其他许多国家都将举行选举。我们在支持民主选举完整性方面有着良好记录,我们刚刚宣布了在议会选举前的欧盟预防性辟谣活动。这项活动通过社交媒体上的短视频广告,教导人们如何在看到常见操纵手段之前识别它们,将于今春在法国、德国、意大利、比利时和波兰启动。我们也全力致力于继续努力,防止平台滥用,为选民提供高质量信息,并提供有关人工智能生成内容的详细信息,帮助他们做出更好的选择。
人们对人工智能被滥用创建深度伪造和误导选民表示合理担忧。但人工智能也提供了大规模防止滥用的独特机会。Google的信任与安全团队正直面这一问题,利用人工智能增强我们对抗滥用的努力,更有效地执行我们的政策,并快速适应新情况或声明。
我们还与行业内其他方合作,共享研究并共同应对威胁和滥用,包括欺骗性人工智能内容风险。就在上周,我们加入了内容来源与真实性联盟(C2PA),该联盟致力于开发内容凭证,以揭示人工智能生成内容的制作和编辑过程。这建立在我们与前沿模型论坛、人工智能伙伴关系和其他倡议围绕负责任人工智能的跨行业合作之上。
携手捍卫基于规则的国际秩序
慕尼黑安全会议作为应对民主挑战的场所经受住了时间的考验。六十年来,民主国家共同面对并克服了这些挑战,应对了人工智能带来的重大转变。现在,我们再次有机会——作为政府、企业、学术界和民间社会——聚集在一起,打造新的伙伴关系,发挥人工智能的积极潜力,并加强基于规则的世界秩序。
相关文章
Kakao Mobility 概述了面向物理人工智能的 L4 级自动驾驶路线图
Kakao Mobility 计划内部自主研发 L4 级自动驾驶技术,作为其物理人工智能战略的一部分。在首尔COEX举行的2026世界IT展上,Kakao Mobility副总裁兼物理AI部门负责人金镇奎(Kim Jin-kyu)介绍了该路线图。他的演讲聚焦于物理AI时代基于出行平台构建的自动驾驶服务。据韩联社报道,这场题为“超越构想,付诸行动:AI驱动现实”的活动汇聚了来自17个国家的460
巴里·迪勒:随着通用人工智能的临近,对萨姆·阿尔特曼的信任已无关紧要
尽管近期有报道暗示相反的情况,但亿万富翁、媒体大亨巴里·迪勒并不认为OpenAI首席执行官山姆·阿尔特曼不可信。本周,迪勒在《华尔街日报》举办的“万物未来”峰会上发表演讲时,为阿尔特曼进行了辩护。此前,阿尔特曼曾遭到一些前同事和董事会成员的指责,称其有时会采取操纵和欺骗手段。作为阿尔特曼的朋友,迪勒是在回答一个关于人们是否应该信任阿尔特曼以确保人工智能造福人类的问题时作出上述表态的。具体而言,提问
YouTube将AI深度伪造检测功能扩展至政界人士、政府官员和记者
周二,YouTube宣布将把其深度伪造(deepfake)检测技术推广至部分政府官员、政治候选人和记者。该工具可识别由人工智能生成的肖像,并允许试点参与者申请删除其认为违反YouTube政策的未经授权内容。该检测系统在经过前期测试阶段后,于去年首次向约400万名YouTube合作伙伴计划的创作者推出。与YouTube现有的用于保护版权内容的Content ID系统类似,该肖像检测功能可识别AI模拟
相关专题推荐
评论 (56)
0/500
Interesting to see MSC tackling AI risks now. Honestly, with all the election chaos and global tensions this year, focusing on AI governance feels both urgent and a bit like rearranging deck chairs on the Titanic? 🤔 Hope they move beyond just talk to some real, actionable frameworks.
MSC's collaboration on AI risks and opportunities is timely and crucial. It's great to see such initiatives amidst global tensions. However, the discussions could be more actionable. Still, a vital conversation to have! 🌍
Sự hợp tác của MSC về rủi ro và cơ hội của AI rất kịp thời và quan trọng. Rất thích thấy những sáng kiến như thế này giữa các căng thẳng toàn cầu. Tuy nhiên, các cuộc thảo luận có thể thực tế hơn. Dù sao cũng là cuộc trò chuyện quan trọng cần có! 🌍
A colaboração da MSC sobre riscos e oportunidades da IA é oportuna e crucial. É ótimo ver essas iniciativas em meio às tensões globais. No entanto, as discussões poderiam ser mais práticas. Ainda assim, uma conversa vital para se ter! 🌍
Сотрудничество MSC по рискам и возможностям ИИ своевременно и важно. Приятно видеть такие инициативы на фоне глобальных напряжений. Однако обсуждения могли бы быть более практичными. Тем не менее, важный разговор, который нужно вести! 🌍

六十年来,慕尼黑安全会议一直是世界领导人、企业、专家和民间社会进行公开讨论、加强和保护民主及全球秩序的重要聚集地。随着地缘政治紧张局势加剧、全球关键选举以及更为先进的网络威胁,这些讨论比以往任何时候都更为重要。人工智能在进攻和防御角色中的出现为对话增添了全新层面。
就在本周,Google的威胁分析小组(TAG)联合Mandiant和信任与安全团队发布了一份新报告。报告揭示了伊朗支持的团体如何利用信息战来影响公众对以色列-哈马斯冲突的看法。报告还更新了俄罗斯在乌克兰战争中的网络方面的最新情况。另外,TAG强调了政府和其他不良行为者日益使用商业间谍软件,针对记者、人权活动家、异见人士和反对派政治家。我们也不应忘记,威胁行为者利用旧系统漏洞危害政府和私营公司安全的持续报道。
在这些不断升级的威胁中,我们迎来了一个黄金机会,利用人工智能增强全球民主的网络防御,为企业、政府和组织提供曾经只有最大玩家才能获得的防御工具。本周在慕尼黑,我们将深入探讨如何通过新的投资、承诺和伙伴关系来应对人工智能风险并充分利用其潜力。毕竟,在一个攻击者可以利用人工智能创新而防御者却无法做到的世界中,民主无法蓬勃发展。
利用人工智能加强网络防御
多年来,网络威胁一直是安全专家、政府、企业和民间社会的难题。人工智能有潜力改变这种平衡,为防御者提供对攻击者的真正优势。但是,像任何技术一样,如果人工智能的开发和使用不安全,它可能是一把双刃剑。
这就是为什么我们今天启动了人工智能网络防御倡议。倡议旨在通过提出的政策和技术议程,挖掘人工智能的安全潜力,帮助确保、赋能和推进我们共同的数字未来。人工智能网络防御倡议建立在我们的安全人工智能框架(SAIF)之上,该框架帮助组织从一开始就创建安全的AI工具和产品。
作为该倡议的一部分,我们正在推出一个新的“人工智能用于网络安全”初创企业队列,以增强跨大西洋网络安全领域。我们还将我们在欧洲的1500万美元网络安全培训承诺增加200万美元,以支持网络安全研究,并开源我们的Google人工智能驱动的文件类型识别系统Magika。此外,我们继续向安全、人工智能就绪的全球数据中心投入资金。到2024年底,我们将在欧洲数据中心投资超过50亿美元,帮助确保对一系列数字服务的安全、可靠访问,包括我们的Vertex AI平台的生成人工智能功能。
保护民主选举
今年,欧洲、美国、印度和其他许多国家都将举行选举。我们在支持民主选举完整性方面有着良好记录,我们刚刚宣布了在议会选举前的欧盟预防性辟谣活动。这项活动通过社交媒体上的短视频广告,教导人们如何在看到常见操纵手段之前识别它们,将于今春在法国、德国、意大利、比利时和波兰启动。我们也全力致力于继续努力,防止平台滥用,为选民提供高质量信息,并提供有关人工智能生成内容的详细信息,帮助他们做出更好的选择。
人们对人工智能被滥用创建深度伪造和误导选民表示合理担忧。但人工智能也提供了大规模防止滥用的独特机会。Google的信任与安全团队正直面这一问题,利用人工智能增强我们对抗滥用的努力,更有效地执行我们的政策,并快速适应新情况或声明。
我们还与行业内其他方合作,共享研究并共同应对威胁和滥用,包括欺骗性人工智能内容风险。就在上周,我们加入了内容来源与真实性联盟(C2PA),该联盟致力于开发内容凭证,以揭示人工智能生成内容的制作和编辑过程。这建立在我们与前沿模型论坛、人工智能伙伴关系和其他倡议围绕负责任人工智能的跨行业合作之上。
携手捍卫基于规则的国际秩序
慕尼黑安全会议作为应对民主挑战的场所经受住了时间的考验。六十年来,民主国家共同面对并克服了这些挑战,应对了人工智能带来的重大转变。现在,我们再次有机会——作为政府、企业、学术界和民间社会——聚集在一起,打造新的伙伴关系,发挥人工智能的积极潜力,并加强基于规则的世界秩序。
巴里·迪勒:随着通用人工智能的临近,对萨姆·阿尔特曼的信任已无关紧要
尽管近期有报道暗示相反的情况,但亿万富翁、媒体大亨巴里·迪勒并不认为OpenAI首席执行官山姆·阿尔特曼不可信。本周,迪勒在《华尔街日报》举办的“万物未来”峰会上发表演讲时,为阿尔特曼进行了辩护。此前,阿尔特曼曾遭到一些前同事和董事会成员的指责,称其有时会采取操纵和欺骗手段。作为阿尔特曼的朋友,迪勒是在回答一个关于人们是否应该信任阿尔特曼以确保人工智能造福人类的问题时作出上述表态的。具体而言,提问
YouTube将AI深度伪造检测功能扩展至政界人士、政府官员和记者
周二,YouTube宣布将把其深度伪造(deepfake)检测技术推广至部分政府官员、政治候选人和记者。该工具可识别由人工智能生成的肖像,并允许试点参与者申请删除其认为违反YouTube政策的未经授权内容。该检测系统在经过前期测试阶段后,于去年首次向约400万名YouTube合作伙伴计划的创作者推出。与YouTube现有的用于保护版权内容的Content ID系统类似,该肖像检测功能可识别AI模拟
Interesting to see MSC tackling AI risks now. Honestly, with all the election chaos and global tensions this year, focusing on AI governance feels both urgent and a bit like rearranging deck chairs on the Titanic? 🤔 Hope they move beyond just talk to some real, actionable frameworks.
MSC's collaboration on AI risks and opportunities is timely and crucial. It's great to see such initiatives amidst global tensions. However, the discussions could be more actionable. Still, a vital conversation to have! 🌍
Sự hợp tác của MSC về rủi ro và cơ hội của AI rất kịp thời và quan trọng. Rất thích thấy những sáng kiến như thế này giữa các căng thẳng toàn cầu. Tuy nhiên, các cuộc thảo luận có thể thực tế hơn. Dù sao cũng là cuộc trò chuyện quan trọng cần có! 🌍
A colaboração da MSC sobre riscos e oportunidades da IA é oportuna e crucial. É ótimo ver essas iniciativas em meio às tensões globais. No entanto, as discussões poderiam ser mais práticas. Ainda assim, uma conversa vital para se ter! 🌍
Сотрудничество MSC по рискам и возможностям ИИ своевременно и важно. Приятно видеть такие инициативы на фоне глобальных напряжений. Однако обсуждения могли бы быть более практичными. Тем не менее, важный разговор, который нужно вести! 🌍





首页






