1,100名AI员工敦促华盛顿遏制快速的技术增长

来自 OpenAI、Anthropic、Google 和 Meta 等顶级人工智能公司的 1,100 多名员工签署了一封公开信,敦促美国政府减缓人工智能的发展步伐。这封题为“控制前沿”的倡议突出了在当前人工智能竞赛中安全与治理方面的关键缺失。该信聚焦于“自动化人工智能开发”,即未来的系统可能通过递归自我改进来自主增强自身能力。Anthropic 指出,其 Claude 模型已接近这一门槛,并警告称,能力的发展可能会超出人类的控制范围。签署者呼吁开展国际合作,以构建治理工具,并有意识地管理自动化人工智能的进步速度。
高管支持,Altman 立场的转变
签署者名单汇集了人工智能领域的“全明星”阵容:Anthropic 首席执行官 Dario Amodei、OpenAI 联合创始人兼首席科学家 Jakub Pachocki、Meta 首席科学家 Shengjia Zhao 以及 Google DeepMind 的 Anca Dragan。OpenAI 和 Anthropic 均在 X 平台上公开支持这封信。OpenAI 承认,前沿模型的加速发展可能很快需要放缓,而 Anthropic 则引用了其最近关于递归自我改进的研究,强调社会需要做好准备。
OpenAI 首席执行官 Sam Altman 的立场发生了显著转变。他在接受“像最佳投资者一样投资”播客采访时表示,现在可能是时候“放慢”人工智能的发展速度,以便社会能够适应并建立保护机制。
Altman 澄清,这种方法不应被视为监管俘获或主要实验室之间的勾结。就在一年前,他拒绝签署类似的公开信,理由是缺乏足够的技术细节。他从 2023 年的拒绝转变为目前的支持,反映了人工智能行业对安全风险认知的深刻转变。
相关文章
OpenAI 押注家庭,ChatGPT 深入千家万户
ChatGPT 将生成式 AI 推向聚光灯下已逾三年,OpenAI 正将其业务范围从个人用户扩展至整个家庭。OpenAI 正在旧金山招聘一名产品经理,以开发其平台上的家庭导向体验,目标受众包括父母、照护者和老年人。根据职位列表,该职位要求具备为家庭及其他对信任敏感的消费者应用开发产品的背景。此次招聘与 ChatGPT 不断演变的用户群体相契合,其用户年龄已超出最初的年轻群体。Sensor Tower 独家向 TechCrunch 分享的数据显示,全球范围内,35 岁及以上用户在 Q2 占 Cha
苹果 iOS 27 泄露信息:Siri 集成 Google Gemini 实现本地 AI,部分请求路由至 Google 云
最近的报告揭示了苹果与谷歌在人工智能领域的合作深度。即将推出的 iOS 27 将通过专注于本地边缘 AI 处理来优先考虑隐私。为了在不牺牲用户数据的情况下提升性能,苹果正在采用知识蒸馏技术,利用谷歌强大的 Gemini 大型语言模型来训练其自身的轻量级边缘 AI。这种蒸馏方法将大型模型的见解转移到较小的模型中,使设备端 AI 能够匹配大型模型的性能,同时大幅降低计算成本。用户因此受益于更快的边缘 AI 响应和默认的本地数据处理,这加强了苹果对安全的承诺。为了进一步缩小用于本地的模型规模,苹果已
Anthropic 将 2026 年首次公开募股(IPO)视为目标,其收入六倍增长已接近马斯克的市场价值
尽管尚未公开上市,人工智能初创公司 Anthropic 已在预测市场引发激烈活动。最新的 Polymarket 数据显示,投资者正在押注 Anthropic 将超越埃隆·马斯克的 SpaceX,成为 2026 年全球规模最大的 IPO。该概率已攀升至 44%,紧随 SpaceX 的 55% 之后。就在上周,SpaceX 在这场竞争中仍保持着显著领先优势。这种快速收敛和市场兴趣升温源于 Anthropic 爆炸式的财务增长。最近的投资者更新报告显示,截至 7 月底,其年化收入飙升至 650 亿美
相关专题推荐
评论 (0)
0/500

来自 OpenAI、Anthropic、Google 和 Meta 等顶级人工智能公司的 1,100 多名员工签署了一封公开信,敦促美国政府减缓人工智能的发展步伐。这封题为“控制前沿”的倡议突出了在当前人工智能竞赛中安全与治理方面的关键缺失。该信聚焦于“自动化人工智能开发”,即未来的系统可能通过递归自我改进来自主增强自身能力。Anthropic 指出,其 Claude 模型已接近这一门槛,并警告称,能力的发展可能会超出人类的控制范围。签署者呼吁开展国际合作,以构建治理工具,并有意识地管理自动化人工智能的进步速度。
高管支持,Altman 立场的转变
签署者名单汇集了人工智能领域的“全明星”阵容:Anthropic 首席执行官 Dario Amodei、OpenAI 联合创始人兼首席科学家 Jakub Pachocki、Meta 首席科学家 Shengjia Zhao 以及 Google DeepMind 的 Anca Dragan。OpenAI 和 Anthropic 均在 X 平台上公开支持这封信。OpenAI 承认,前沿模型的加速发展可能很快需要放缓,而 Anthropic 则引用了其最近关于递归自我改进的研究,强调社会需要做好准备。
OpenAI 首席执行官 Sam Altman 的立场发生了显著转变。他在接受“像最佳投资者一样投资”播客采访时表示,现在可能是时候“放慢”人工智能的发展速度,以便社会能够适应并建立保护机制。
Altman 澄清,这种方法不应被视为监管俘获或主要实验室之间的勾结。就在一年前,他拒绝签署类似的公开信,理由是缺乏足够的技术细节。他从 2023 年的拒绝转变为目前的支持,反映了人工智能行业对安全风险认知的深刻转变。
OpenAI 押注家庭,ChatGPT 深入千家万户
ChatGPT 将生成式 AI 推向聚光灯下已逾三年,OpenAI 正将其业务范围从个人用户扩展至整个家庭。OpenAI 正在旧金山招聘一名产品经理,以开发其平台上的家庭导向体验,目标受众包括父母、照护者和老年人。根据职位列表,该职位要求具备为家庭及其他对信任敏感的消费者应用开发产品的背景。此次招聘与 ChatGPT 不断演变的用户群体相契合,其用户年龄已超出最初的年轻群体。Sensor Tower 独家向 TechCrunch 分享的数据显示,全球范围内,35 岁及以上用户在 Q2 占 Cha
苹果 iOS 27 泄露信息:Siri 集成 Google Gemini 实现本地 AI,部分请求路由至 Google 云
最近的报告揭示了苹果与谷歌在人工智能领域的合作深度。即将推出的 iOS 27 将通过专注于本地边缘 AI 处理来优先考虑隐私。为了在不牺牲用户数据的情况下提升性能,苹果正在采用知识蒸馏技术,利用谷歌强大的 Gemini 大型语言模型来训练其自身的轻量级边缘 AI。这种蒸馏方法将大型模型的见解转移到较小的模型中,使设备端 AI 能够匹配大型模型的性能,同时大幅降低计算成本。用户因此受益于更快的边缘 AI 响应和默认的本地数据处理,这加强了苹果对安全的承诺。为了进一步缩小用于本地的模型规模,苹果已
Anthropic 将 2026 年首次公开募股(IPO)视为目标,其收入六倍增长已接近马斯克的市场价值
尽管尚未公开上市,人工智能初创公司 Anthropic 已在预测市场引发激烈活动。最新的 Polymarket 数据显示,投资者正在押注 Anthropic 将超越埃隆·马斯克的 SpaceX,成为 2026 年全球规模最大的 IPO。该概率已攀升至 44%,紧随 SpaceX 的 55% 之后。就在上周,SpaceX 在这场竞争中仍保持着显著领先优势。这种快速收敛和市场兴趣升温源于 Anthropic 爆炸式的财务增长。最近的投资者更新报告显示,截至 7 月底,其年化收入飙升至 650 亿美





首页






