一份关于人工智能未来的蓝图正等待被采纳

尽管华盛顿与Anthropic的分道扬镳暴露了人工智能领域完全缺乏一套连贯的规则,但一个由两党思想家组成的团体却构建出了政府至今未能提供的东西:一个关于负责任的人工智能发展的明确框架。
《亲人类宣言》在上周五角大楼与Anthropic对峙之前就已定稿,但参与者们都深知这一时机非同寻常。
“过去四个月里,美国发生了一件相当了不起的事情,”麻省理工学院物理学家兼人工智能研究员马克斯·泰格马克表示,他协助组织了此次行动。“最近的民调显示,95%的美国人现在反对在缺乏监管的情况下竞相研发超级智能。”
这份由数百名专家、前政府官员及公众人物签署的新近发布的文件,开篇便提出了一个严峻的观察:人类正处于十字路口。一条被标为“取代竞赛”的道路,将导致人类首先在劳动岗位上被取代,继而作为决策者被取代,因为权力正流向不受监督的机构及其机器。另一条道路则将引领人工智能大幅拓展人类的潜能。
这一积极的未来建立在五大支柱之上:确保人类保持控制权、防止权力集中、保护人类体验、维护个人自由,以及让人工智能公司承担法律责任。其中更强有力的条款包括:在科学界达成安全共识并获得公众支持之前,禁止开发超级智能;要求强大的系统必须配备强制关闭开关;禁止开发具有自我复制、自主改进或抗拒关闭能力的人工智能。
该宣言的发布正值其紧迫性凸显之际。2月最后一个星期五,国防部长皮特·赫格塞斯(Pete Hegseth)将Anthropic公司——其人工智能已应用于机密军事平台——称为“供应链风险”,此前该公司拒绝授予五角大楼对其技术的无限使用权。 数小时后,OpenAI与国防部达成了自己的协议,但法律专家表示该协议很难切实执行。这一事件凸显了国会对人工智能问题不作为所带来的日益高昂的代价。
美国创新基金会高级研究员迪恩·鲍尔向《纽约时报》表示:“这不仅仅是一场合同纠纷。这是我国关于谁掌控人工智能系统的首次真正对话。”
泰格马克给出了一个通俗易懂的比喻。“你绝不会担心制药公司会在证实药物安全之前就推出有害药物,”他说,“因为美国食品药品监督管理局(FDA)绝不会允许任何药物在安全得到充分保障之前上市。”
华盛顿的权力斗争很少能形成推动法律变革所需的公众压力。相反,泰格马克认为儿童安全问题最有可能打破当前的僵局。该宣言呼吁对人工智能产品——尤其是面向年轻用户的聊天机器人和伴侣应用——进行强制性的部署前测试,以评估其是否会引发自杀念头增加、心理健康恶化以及情感操控等风险。
“如果一个令人毛骨悚然的成年人给一个11岁男孩发短信,假扮成年轻女孩并怂恿他自杀,那个人可能会被送进监狱,”泰格马克说,“我们已经有了禁止这种行为的法律。那么,如果换成机器做同样的事,为什么就该另当别论呢?”
他认为,一旦针对儿童产品的发布前测试制度确立,其范围必然会扩大。“人们会开始增加其他要求。也许我们还应该测试它是否会协助恐怖分子制造生物武器。也许我们应该确保超级智能无法推翻美国政府。”
值得注意的是,前特朗普顾问史蒂夫·班农与奥巴马总统的国家安全顾问苏珊·赖斯共同签署了这份文件——与他们一同签署的还有前参谋长联席会议主席迈克·马伦以及进步派宗教领袖。
“他们达成共识的,当然是他们都是人类,”泰格马克指出。“当涉及选择人类的未来还是机器的未来时,他们当然会站在同一边。”
相关文章
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图
正当各国政府竭力应对超级智能机器带来的经济影响之际,OpenAI发布了一套政策建议,概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单,这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
Anthropic租用SpaceX设施的期限引发争议
本月早些时候,xAI 与 Anthropic 敲定了重大计算资源合作协议,承诺每月支付数十亿美元以获得 Colossus 集群的独家使用权。该协议对双方均有利:xAI 获得了关键收入,而 Anthropic 则在持续的计算资源竞争中取得了进展。然而,今天上午在X平台上,埃隆·马斯克淡化了SpaceX对该协议的承诺程度。“SpaceX并未承诺对Colossus进行多年租赁,尽管未来仍有可能发生,”他
相关专题推荐
评论 (0)
0/500

尽管华盛顿与Anthropic的分道扬镳暴露了人工智能领域完全缺乏一套连贯的规则,但一个由两党思想家组成的团体却构建出了政府至今未能提供的东西:一个关于负责任的人工智能发展的明确框架。
《亲人类宣言》在上周五角大楼与Anthropic对峙之前就已定稿,但参与者们都深知这一时机非同寻常。
“过去四个月里,美国发生了一件相当了不起的事情,”麻省理工学院物理学家兼人工智能研究员马克斯·泰格马克表示,他协助组织了此次行动。“最近的民调显示,95%的美国人现在反对在缺乏监管的情况下竞相研发超级智能。”
这份由数百名专家、前政府官员及公众人物签署的新近发布的文件,开篇便提出了一个严峻的观察:人类正处于十字路口。一条被标为“取代竞赛”的道路,将导致人类首先在劳动岗位上被取代,继而作为决策者被取代,因为权力正流向不受监督的机构及其机器。另一条道路则将引领人工智能大幅拓展人类的潜能。
这一积极的未来建立在五大支柱之上:确保人类保持控制权、防止权力集中、保护人类体验、维护个人自由,以及让人工智能公司承担法律责任。其中更强有力的条款包括:在科学界达成安全共识并获得公众支持之前,禁止开发超级智能;要求强大的系统必须配备强制关闭开关;禁止开发具有自我复制、自主改进或抗拒关闭能力的人工智能。
该宣言的发布正值其紧迫性凸显之际。2月最后一个星期五,国防部长皮特·赫格塞斯(Pete Hegseth)将Anthropic公司——其人工智能已应用于机密军事平台——称为“供应链风险”,此前该公司拒绝授予五角大楼对其技术的无限使用权。 数小时后,OpenAI与国防部达成了自己的协议,但法律专家表示该协议很难切实执行。这一事件凸显了国会对人工智能问题不作为所带来的日益高昂的代价。
美国创新基金会高级研究员迪恩·鲍尔向《纽约时报》表示:“这不仅仅是一场合同纠纷。这是我国关于谁掌控人工智能系统的首次真正对话。”
泰格马克给出了一个通俗易懂的比喻。“你绝不会担心制药公司会在证实药物安全之前就推出有害药物,”他说,“因为美国食品药品监督管理局(FDA)绝不会允许任何药物在安全得到充分保障之前上市。”
华盛顿的权力斗争很少能形成推动法律变革所需的公众压力。相反,泰格马克认为儿童安全问题最有可能打破当前的僵局。该宣言呼吁对人工智能产品——尤其是面向年轻用户的聊天机器人和伴侣应用——进行强制性的部署前测试,以评估其是否会引发自杀念头增加、心理健康恶化以及情感操控等风险。
“如果一个令人毛骨悚然的成年人给一个11岁男孩发短信,假扮成年轻女孩并怂恿他自杀,那个人可能会被送进监狱,”泰格马克说,“我们已经有了禁止这种行为的法律。那么,如果换成机器做同样的事,为什么就该另当别论呢?”
他认为,一旦针对儿童产品的发布前测试制度确立,其范围必然会扩大。“人们会开始增加其他要求。也许我们还应该测试它是否会协助恐怖分子制造生物武器。也许我们应该确保超级智能无法推翻美国政府。”
值得注意的是,前特朗普顾问史蒂夫·班农与奥巴马总统的国家安全顾问苏珊·赖斯共同签署了这份文件——与他们一同签署的还有前参谋长联席会议主席迈克·马伦以及进步派宗教领袖。
“他们达成共识的,当然是他们都是人类,”泰格马克指出。“当涉及选择人类的未来还是机器的未来时,他们当然会站在同一边。”
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图
正当各国政府竭力应对超级智能机器带来的经济影响之际,OpenAI发布了一套政策建议,概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单,这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
Anthropic租用SpaceX设施的期限引发争议
本月早些时候,xAI 与 Anthropic 敲定了重大计算资源合作协议,承诺每月支付数十亿美元以获得 Colossus 集群的独家使用权。该协议对双方均有利:xAI 获得了关键收入,而 Anthropic 则在持续的计算资源竞争中取得了进展。然而,今天上午在X平台上,埃隆·马斯克淡化了SpaceX对该协议的承诺程度。“SpaceX并未承诺对Colossus进行多年租赁,尽管未来仍有可能发生,”他





首页






