哈佛心理学家派克:关注人工智能安全工程,而非末日谣言

哈佛心理学家史蒂芬·平克认为,关于人工智能导致人类灭绝的恐惧被严重夸大了,他在致《Quillette》的一封公开信中详细阐述了这一立场,该信是写给斯科特·亚历山大的。
在亚历山大挑战平克就人工智能生存风险进行公开辩论后,平克拒绝了这一提议,并将此次交流斥为纯粹的娱乐。他特别驳斥了“回形针最大化器”这一思想实验,认为该实验错误地将智能等同于攻击性,并忽视了系统失控的可能性。
真正的风险往往被忽视
尽管平克此前对人工智能持乐观态度,但他承认自己存在两处误判:低估了大型语言模型的能力,以及未能预测公司部署这些模型的迅速程度。讽刺的是,许多警告这些风险的人来自此前曾轻视此类担忧的群体。
平克指出,生物恐怖主义、网络攻击以及不受监管的人工智能代理是真正的威胁。他认为,专注于灭绝情景会分散人们对实际解决方案的注意力,例如强大的安全工程、独立监督、问责框架以及保持人类控制。
反对者估计灭绝风险为 20%
相关文章
Rivian 创始人 Mind Robotics 筹集 5 亿美元以推进工业 AI
当科技界痴迷于人形机器人时,一家初创公司正开辟不同的道路——无视炒作,却获得了来自精英风险投资机构的巨额支持。3月12日,由Rivian首席执行官RJ Scaringe创立的工业AI公司Mind Robotics宣布完成5亿美元A轮融资。在硅谷巨头Accel和Andreessen Horowitz(a16z)的支持下,该公司的迅速崛起引人注目。Mind Robotics于去年11月刚刚启动,如今在四个月内已获得6.15亿美元的总融资,投后估值达到20亿美元,确立了其作为工业机器人独角兽的地位。
如何修复核心网页指标(Core Web Vitals)以提升 SEO 排名?
构建自定义邮件机器人以自动化您的消息传递简介配置 Python 环境开发邮件发送机器人启用外部应用程序的访问权限实现文本转语音转换构建电子邮件列表发送批量邮件结论其他资源常见问题简介 本指南解释了如何使用 Python 构建自动发送邮件的机器人。这个简单的项目使您能够无需手动输入即可发送数百条消息。我们将逐步介绍设置 Python 工作区、开发机器人、配置外部应用程序权限、集成文本转语音功能、管理电子邮件列表以及执行批量发送的过程。让我们开始吧。配置 Python 环境
OpenAI 产品负责人 Thibault Sottiaux 论为何世界似乎已做好准备
OpenAI 的软件工程工具 Codex 长期以来一直与 Thibault Sottiaux 联系在一起,这位工程师以在产品达到重大增长里程碑时重置令牌限制而闻名。现在,OpenAI 旨在通过 ChatGPT Work 将这种成就感带给更广泛的受众,这是一个旨在帮助白领专业人士利用 AI 代理的平台。我们最近就该产品面临的挑战采访了 Sottiaux,但我们希望与读者分享更广泛的对话内容。以下是经过轻度编辑和精简的采访稿,涵盖了赢得怀疑者信任的策略、将探索作为核心设计理念,以及智能的真实成本。
相关专题推荐
评论 (0)
0/500

哈佛心理学家史蒂芬·平克认为,关于人工智能导致人类灭绝的恐惧被严重夸大了,他在致《Quillette》的一封公开信中详细阐述了这一立场,该信是写给斯科特·亚历山大的。
在亚历山大挑战平克就人工智能生存风险进行公开辩论后,平克拒绝了这一提议,并将此次交流斥为纯粹的娱乐。他特别驳斥了“回形针最大化器”这一思想实验,认为该实验错误地将智能等同于攻击性,并忽视了系统失控的可能性。
真正的风险往往被忽视
尽管平克此前对人工智能持乐观态度,但他承认自己存在两处误判:低估了大型语言模型的能力,以及未能预测公司部署这些模型的迅速程度。讽刺的是,许多警告这些风险的人来自此前曾轻视此类担忧的群体。
平克指出,生物恐怖主义、网络攻击以及不受监管的人工智能代理是真正的威胁。他认为,专注于灭绝情景会分散人们对实际解决方案的注意力,例如强大的安全工程、独立监督、问责框架以及保持人类控制。
反对者估计灭绝风险为 20%
Rivian 创始人 Mind Robotics 筹集 5 亿美元以推进工业 AI
当科技界痴迷于人形机器人时,一家初创公司正开辟不同的道路——无视炒作,却获得了来自精英风险投资机构的巨额支持。3月12日,由Rivian首席执行官RJ Scaringe创立的工业AI公司Mind Robotics宣布完成5亿美元A轮融资。在硅谷巨头Accel和Andreessen Horowitz(a16z)的支持下,该公司的迅速崛起引人注目。Mind Robotics于去年11月刚刚启动,如今在四个月内已获得6.15亿美元的总融资,投后估值达到20亿美元,确立了其作为工业机器人独角兽的地位。
如何修复核心网页指标(Core Web Vitals)以提升 SEO 排名?
构建自定义邮件机器人以自动化您的消息传递简介配置 Python 环境开发邮件发送机器人启用外部应用程序的访问权限实现文本转语音转换构建电子邮件列表发送批量邮件结论其他资源常见问题简介 本指南解释了如何使用 Python 构建自动发送邮件的机器人。这个简单的项目使您能够无需手动输入即可发送数百条消息。我们将逐步介绍设置 Python 工作区、开发机器人、配置外部应用程序权限、集成文本转语音功能、管理电子邮件列表以及执行批量发送的过程。让我们开始吧。配置 Python 环境
OpenAI 产品负责人 Thibault Sottiaux 论为何世界似乎已做好准备
OpenAI 的软件工程工具 Codex 长期以来一直与 Thibault Sottiaux 联系在一起,这位工程师以在产品达到重大增长里程碑时重置令牌限制而闻名。现在,OpenAI 旨在通过 ChatGPT Work 将这种成就感带给更广泛的受众,这是一个旨在帮助白领专业人士利用 AI 代理的平台。我们最近就该产品面临的挑战采访了 Sottiaux,但我们希望与读者分享更广泛的对话内容。以下是经过轻度编辑和精简的采访稿,涵盖了赢得怀疑者信任的策略、将探索作为核心设计理念,以及智能的真实成本。





首页






