Andrew ng“非常高兴” Google结束了AI武器保证

安德鲁·吴，谷歌大脑的创始人及前负责人，表达了对谷歌近期放弃不开发用于武器的AI承诺的支持。

“我很高兴谷歌改变了立场，”吴在周四晚于旧金山举行的军事退伍军人创业大会上接受TechCrunch现场采访时表示。

本周，谷歌从其AI原则页面删除了已有7年的承诺，该承诺声明公司不会开发用于武器或监控的AI。与此同时，谷歌发布了由DeepMind首席执行官戴米斯·哈萨比斯撰写的博客文章，强调公司与政府合作开发“支持国家安全”的AI的必要性。

谷歌最初的AI武器承诺始于2018年，当时因Project Maven抗议活动，数千名员工反对公司与军方的合同。抗议聚焦于谷歌为分析视频片段的军事项目提供AI，可能提高无人机打击的精准度。

吴对主要由退伍军人组成的观众表达了对Project Maven抗议的困惑。

“老实说，当Project Maven问题出现时……你们中的许多人准备为国家安全冒生命危险，”吴说。“那么一家美国公司怎么可能拒绝协助为我们作战的部队呢？”

虽然吴在Project Maven抗议期间不在谷歌，但他对公司的AI和神经网络项目有重大影响。目前，吴运营AI Fund，一个专注于AI的风险工作室，并经常讨论AI政策。

吴还表示松了一口气，因为两项AI监管提案——被否决的加州SB 1047法案和拜登被推翻的AI行政命令——已不再生效。他一直认为这些措施会阻碍美国开源AI的发展。

吴认为，确保美国AI安全的真正路径在于保持与中国在技术上的竞争力。他指出，AI无人机将“彻底改变战场”。

他并非唯一持此观点的前谷歌高管。谷歌前首席执行官埃里克·施密特现在在华盛顿特区游说，主张美国采购AI无人机以跟上中国；他的公司White Stork可能最终提供这些无人机。

虽然吴和施密特倡导军事AI应用，但这一问题长期以来在谷歌员工中存在分歧。

现任Signal总裁的梅雷迪思·惠特克在2018年领导了Maven抗议活动，当时她是谷歌的AI研究员。当谷歌承诺不续签Project Maven合同时，惠特克表示满意，称公司“不应从事战争业务”。

她并非唯一反对的人。前谷歌AI研究员、诺贝尔奖得主杰弗里·欣顿敦促全球政府禁止并监管武器中的AI。谷歌前高管、现DeepMind首席科学家的杰夫·迪恩也签署了一封反对在自主武器中使用机器学习的信。

近年来，谷歌和亚马逊因与以色列政府的Project Nimbus合同而面临更多审查。去年，两家公司员工举行静坐抗议Project Nimbus，据报道谷歌和亚马逊通过该项目为以色列国防军提供云计算服务。

五角大楼和全球军队越来越渴望利用AI，正如国防部首席AI官此前对TechCrunch所说。随着谷歌、亚马逊、微软和其他科技巨头向AI基础设施投入数千亿美元，许多公司正通过军事合作来抵消这些成本。