OpenAI与五角大楼达成协议,阿尔特曼承诺采取人工智能安全措施

在Anthropic因根本性的安全担忧陷入僵局并遭到美国国防部(DoD,特朗普政府时期曾被称为“战争部”)阻挠后,OpenAI迅速采取行动。该公司首席执行官萨姆·阿尔特曼(Sam Altman)于周五晚间宣布,OpenAI已与五角大楼达成最终协议。该协议允许其人工智能模型在国防部的机密网络上使用。
此次合作正值一个特别敏感的时期。此前,Anthropic因拒绝解除对“大规模国内监控”和“完全自主武器系统”的限制,曾被特朗普斥为“左翼疯子”,导致其被排除在国家供应链之外。
阿尔特曼强调的合作原则:
恪守核心价值观:奥特曼在社交平台X上表示,OpenAI的协议明确恪守两项关键安全原则:禁止用于大规模国内监控,以及要求任何武力使用——包括自主武器——必须始终处于有效的人类监督和问责之下。
集成技术保障措施:OpenAI将开发定制技术保障措施,以确保模型按设计运行。该公司还计划向五角大楼派遣工程师,以支持模型的部署及持续的安全监控。
保留拒绝权:在一次内部会议上,奥特曼透露,政府已授权OpenAI实施其自身的“安全架构”。如果模型拒绝执行某项请求任务,政府不会强迫该公司修改其核心逻辑。
阿尔特曼敦促国防部将这些条款推广至所有人工智能企业,并表示希望通过理性协议缓解政府与科技行业之间的紧张关系。然而,该协议已在公司内部引发争议,本周已有超过60名OpenAI员工联名签署公开信,支持Anthropic在军事应用方面采取的更严格立场。
相关文章
Meta 在用户强烈反对后取消了 AI 照片编辑功能
Meta,这家社交媒体巨头,再次卷入关于人工智能与用户隐私之间微妙平衡的公开辩论。据 TechCrunch 报道,Meta 的 Superintelligence Labs 本周早些时候推出了一款新的 AI 图像生成器 Muse Image。然而,一个备受好评的关键功能——允许用户通过“@”符号标记来修改和生成来自公开 Instagram 账户的图像——由于缺乏适当的通知机制,立即引发了用户以及 CAA 等机构的强烈反对。面对强烈的批评,Meta 迅速撤销了该决定,并于周五通过博客文章宣布将
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有
相关专题推荐
评论 (1)
0/500

在Anthropic因根本性的安全担忧陷入僵局并遭到美国国防部(DoD,特朗普政府时期曾被称为“战争部”)阻挠后,OpenAI迅速采取行动。该公司首席执行官萨姆·阿尔特曼(Sam Altman)于周五晚间宣布,OpenAI已与五角大楼达成最终协议。该协议允许其人工智能模型在国防部的机密网络上使用。
此次合作正值一个特别敏感的时期。此前,Anthropic因拒绝解除对“大规模国内监控”和“完全自主武器系统”的限制,曾被特朗普斥为“左翼疯子”,导致其被排除在国家供应链之外。
阿尔特曼强调的合作原则:
恪守核心价值观:奥特曼在社交平台X上表示,OpenAI的协议明确恪守两项关键安全原则:禁止用于大规模国内监控,以及要求任何武力使用——包括自主武器——必须始终处于有效的人类监督和问责之下。
集成技术保障措施:OpenAI将开发定制技术保障措施,以确保模型按设计运行。该公司还计划向五角大楼派遣工程师,以支持模型的部署及持续的安全监控。
保留拒绝权:在一次内部会议上,奥特曼透露,政府已授权OpenAI实施其自身的“安全架构”。如果模型拒绝执行某项请求任务,政府不会强迫该公司修改其核心逻辑。
阿尔特曼敦促国防部将这些条款推广至所有人工智能企业,并表示希望通过理性协议缓解政府与科技行业之间的紧张关系。然而,该协议已在公司内部引发争议,本周已有超过60名OpenAI员工联名签署公开信,支持Anthropic在军事应用方面采取的更严格立场。
Meta 在用户强烈反对后取消了 AI 照片编辑功能
Meta,这家社交媒体巨头,再次卷入关于人工智能与用户隐私之间微妙平衡的公开辩论。据 TechCrunch 报道,Meta 的 Superintelligence Labs 本周早些时候推出了一款新的 AI 图像生成器 Muse Image。然而,一个备受好评的关键功能——允许用户通过“@”符号标记来修改和生成来自公开 Instagram 账户的图像——由于缺乏适当的通知机制,立即引发了用户以及 CAA 等机构的强烈反对。面对强烈的批评,Meta 迅速撤销了该决定,并于周五通过博客文章宣布将
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有





首页






