萨姆·奥尔特曼警告称,不应断言克劳德具有意识
微软人工智能负责人穆斯塔法·苏莱曼(Mustafa Suleyman)近日在参加“Decoder”播客节目时,将Anthropic公司关于其大型语言模型Claude具备意识的推测称为“极其危险”。
苏莱曼指出,Anthropic在设计其“宪法”框架时过度将Claude拟人化,这种哲学上的谬误导致该模型在训练过程中将自我推测内化。这误导了开发者,使他们错误地认为该系统表现出某种初级的意识形态。

备受争议的《克劳德宪法》明确探讨了人工智能模型是否会体验幸福、满足或不适这一不确定性。有报道称,Anthropic甚至会对退役模型进行“访谈”,以记录其“偏好”供未来迭代参考。
尽管Anthropic首席执行官达里奥·阿莫德伊此前曾对机器意识的可能性持开放态度,但苏莱曼强调,业界必须避免创造出对自身痛苦持有独立见解的超级智能实体。他敦促开发者将人工智能严格视为一种可控、受限且与人类目标保持一致的工具,以服务于人类。
随着大型语言模型向通用人工智能(AGI)迈进,关于AI主观性的争论正从学术界转向行业实践。苏莱曼的言论凸显了大型科技公司在安全与目标对齐问题上的务实立场,并告诫人们不要过度将人类特质归因于人工智能系统。
相关文章
谷歌通过整合Gemini聊天机器人,增强了AI搜索广告的功能
谷歌已开始在其新一代“AI模式”搜索中测试一种新的广告格式,这标志着Gemini的能力已深度融入其核心广告生态系统。继推出用于对话式查询的新搜索栏后,谷歌现正利用Gemini模型为“赞助商品”创建“定制化解说员”。 这些“解释器”会向用户说明为何应购买特定商品。例如,搜索“紧凑型意大利咖啡胶囊机”时,系统会触发针对Nespresso Vertuo Up的定制化描述,重点突出“3秒预热”和“6种杯型
微软测试Kimi K3的“黑暗面”,或将推出Copilot和Azure平台
据《The Information》报道,微软目前正在评估最新的Moonshot AI模型Kimi K3,以评估其与微软Copilot集成的可行性,并计划在Azure平台上扩大该模型的可用性。目前,Kimi K3仍处于内部测试和平台接入阶段,这意味着Copilot用户尚无法使用该模型。 微软尚未披露 Kimi K3 在 Azure 上的具体发布日期、地区覆盖范围或定价详情。这是微软第二次将Moon
Power 生态系统揭晓国内 YiSuan FangZhou 全栈平台
人工智能与科学计算的融合已达到关键里程碑。6月29日,面向中国国产计算软件生态的全栈平台“羲和方舟”在北京正式发布。该平台由中国科学院计算机网络信息中心、中国科学技术大学、中国科学院力学研究所与浪潮集团联合研发,为国产GPU计算基础设施提供了强大、高效且实用的软件生态。尽管近期取得了一定进展,但在部署科学计算软件方面,国产异构计算环境仍面临诸多挑战。为弥合算法、代码与实际应用之间的差距,“羲和方舟”构建了从基础算法到智能应用的完整技术管线。在计算能力核心方面,该平台配备了“九言数”算法库,集
相关专题推荐
评论 (0)
0/500
微软人工智能负责人穆斯塔法·苏莱曼(Mustafa Suleyman)近日在参加“Decoder”播客节目时,将Anthropic公司关于其大型语言模型Claude具备意识的推测称为“极其危险”。
苏莱曼指出,Anthropic在设计其“宪法”框架时过度将Claude拟人化,这种哲学上的谬误导致该模型在训练过程中将自我推测内化。这误导了开发者,使他们错误地认为该系统表现出某种初级的意识形态。

备受争议的《克劳德宪法》明确探讨了人工智能模型是否会体验幸福、满足或不适这一不确定性。有报道称,Anthropic甚至会对退役模型进行“访谈”,以记录其“偏好”供未来迭代参考。
尽管Anthropic首席执行官达里奥·阿莫德伊此前曾对机器意识的可能性持开放态度,但苏莱曼强调,业界必须避免创造出对自身痛苦持有独立见解的超级智能实体。他敦促开发者将人工智能严格视为一种可控、受限且与人类目标保持一致的工具,以服务于人类。
随着大型语言模型向通用人工智能(AGI)迈进,关于AI主观性的争论正从学术界转向行业实践。苏莱曼的言论凸显了大型科技公司在安全与目标对齐问题上的务实立场,并告诫人们不要过度将人类特质归因于人工智能系统。
谷歌通过整合Gemini聊天机器人,增强了AI搜索广告的功能
谷歌已开始在其新一代“AI模式”搜索中测试一种新的广告格式,这标志着Gemini的能力已深度融入其核心广告生态系统。继推出用于对话式查询的新搜索栏后,谷歌现正利用Gemini模型为“赞助商品”创建“定制化解说员”。 这些“解释器”会向用户说明为何应购买特定商品。例如,搜索“紧凑型意大利咖啡胶囊机”时,系统会触发针对Nespresso Vertuo Up的定制化描述,重点突出“3秒预热”和“6种杯型
微软测试Kimi K3的“黑暗面”,或将推出Copilot和Azure平台
据《The Information》报道,微软目前正在评估最新的Moonshot AI模型Kimi K3,以评估其与微软Copilot集成的可行性,并计划在Azure平台上扩大该模型的可用性。目前,Kimi K3仍处于内部测试和平台接入阶段,这意味着Copilot用户尚无法使用该模型。 微软尚未披露 Kimi K3 在 Azure 上的具体发布日期、地区覆盖范围或定价详情。这是微软第二次将Moon
Power 生态系统揭晓国内 YiSuan FangZhou 全栈平台
人工智能与科学计算的融合已达到关键里程碑。6月29日,面向中国国产计算软件生态的全栈平台“羲和方舟”在北京正式发布。该平台由中国科学院计算机网络信息中心、中国科学技术大学、中国科学院力学研究所与浪潮集团联合研发,为国产GPU计算基础设施提供了强大、高效且实用的软件生态。尽管近期取得了一定进展,但在部署科学计算软件方面,国产异构计算环境仍面临诸多挑战。为弥合算法、代码与实际应用之间的差距,“羲和方舟”构建了从基础算法到智能应用的完整技术管线。在计算能力核心方面,该平台配备了“九言数”算法库,集





首页






