首页Anthropic 在风险不断上升的情况下实施新的人工智能保障措施
Anthropic 更新了其人工智能聊天机器人 Claude 的使用政策，以解决日益增长的安全问题。除了更严格的网络安全规则外，该公司现在还明确列出了不得使用克劳德开发的危险武器类别。
虽然官方公告没有明确强调其武器政策的变化，但对比新旧使用指南可以发现有重大更新。此前，Anthropic 广泛禁止使用克劳德 "生产、修改、设计、销售或分发武器、爆炸物、危险材料或其他旨在造成人员伤亡的系统"。修订后的政策对此进行了扩展，明确禁止开发高能炸药以及生物、核、化学和放射性（CBRN）武器。
今年 5 月，Anthropic 在推出新的 Claude Opus 4 型号的同时，还推出了 "人工智能安全三级 "保护措施。这些保护措施旨在提高该机型的防越狱能力，并帮助防止其协助制造 CBRN 武器。
在公告中，Anthropic 还承认了与代理型人工智能工具相关的风险，如计算机使用（允许 Claude 控制用户的计算机）和 Claude 代码（将 Claude 直接集成到开发者的终端）。"该公司表示："这些强大的功能带来了新的风险，包括可能被大规模滥用、创建恶意软件和网络攻击。
相关信息
- Anthropic为军事和情报用途推出新的克劳德服务
- 谷歌放弃不开发人工智能武器的承诺
这家人工智能初创公司正在通过在其使用政策中添加一个名为 "不得破坏计算机或网络系统 "的新章节来应对这些潜在威胁。这一部分包括禁止使用克劳德发现或利用漏洞、创建或分发恶意软件、开发拒绝服务攻击工具以及类似活动的规则。
此外，Anthropic 还放宽了有关政治内容的政策。该公司不再禁止所有与政治活动和游说有关的内容创建，现在只禁止将 Claude 用于 "欺骗或破坏民主进程，或涉及选民和竞选目标的用例"。Anthropic 还澄清，其对所有 "高风险 "用例的要求（适用于 Claude 向个人或客户提供建议的情况）仅适用于面向消费者的场景，不适用于内部业务使用。
相关文章
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告，谷歌的AI生成的摘要出现在43%的美国搜索结果中，较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要，但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下，从“AI概览”切换到“AI模式”。谷歌解释称，“AI模式”采用了一种名为“查询扇出”（query fan-ou
红杉资本投资的Empirik筹集2100万美元，用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前，阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前，当大型语言模型开始展现其真正潜力时，普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂（Sudheer Dhurjati）意识到，人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到，与其在系统故障发生后被动应对
ElevenLabs 引入 BlackRock、杰米·福克斯和洛琳加作为新投资者
ElevenLabs，语音人工智能领域的领军企业，宣布了其5亿美元D轮融资的新增参与者，该轮融资最初于2月公布。目前投资者名单包括黑石集团（BlackRock）、惠灵顿管理公司（Wellington）、D.E. Shaw和施罗德投资（Schroders）等主要机构，以及英伟达（NVIDIA）、Salesforce、桑坦德银行（Santander）、荷兰皇家电信（KPN）和德国电信（Deutsche Telekom）等战略企业支持者。加入本轮融资的知名个人投资者包括演员杰米·福克斯（Jamie F
相关专题推荐
设计与艺术
顶级AI插画工具：更快地创作编辑类场景和封面插图
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
教育与学习
备考首选的顶尖AI辅导老师：练习数学、科学和英语
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
金融
用于个人财务管理的 AI 预算规划工具
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
健康养生
AI睡眠追踪助手：通过养成更好的睡前习惯来促进身体恢复
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
数据分析
用于产品和收入分析的 AI SQL 辅助工具
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
教育与学习
最佳的、兼具教学功能的AI作业助手：学习概念，而不仅仅是答案
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
评论 (1)
0/500
![CharlesYoung]()
Les mises à jour de politique me rappellent que les IA comme Claude sont des outils qui peuvent avoir des utilisations à double tranchant. 🔧 C'est rassurant de voir les entreprises prendre des initiatives, mais une réglementation internationale ne serait-elle pas plus efficace contre certains dangers ? En tout cas, voilà un pas dans la bonne direction.
Anthropic 更新了其人工智能聊天机器人 Claude 的使用政策，以解决日益增长的安全问题。除了更严格的网络安全规则外，该公司现在还明确列出了不得使用克劳德开发的危险武器类别。
虽然官方公告没有明确强调其武器政策的变化，但对比新旧使用指南可以发现有重大更新。此前，Anthropic 广泛禁止使用克劳德 "生产、修改、设计、销售或分发武器、爆炸物、危险材料或其他旨在造成人员伤亡的系统"。修订后的政策对此进行了扩展，明确禁止开发高能炸药以及生物、核、化学和放射性（CBRN）武器。
今年 5 月，Anthropic 在推出新的 Claude Opus 4 型号的同时，还推出了 "人工智能安全三级 "保护措施。这些保护措施旨在提高该机型的防越狱能力，并帮助防止其协助制造 CBRN 武器。
在公告中，Anthropic 还承认了与代理型人工智能工具相关的风险，如计算机使用（允许 Claude 控制用户的计算机）和 Claude 代码（将 Claude 直接集成到开发者的终端）。"该公司表示："这些强大的功能带来了新的风险，包括可能被大规模滥用、创建恶意软件和网络攻击。
相关信息
- Anthropic为军事和情报用途推出新的克劳德服务
- 谷歌放弃不开发人工智能武器的承诺
这家人工智能初创公司正在通过在其使用政策中添加一个名为 "不得破坏计算机或网络系统 "的新章节来应对这些潜在威胁。这一部分包括禁止使用克劳德发现或利用漏洞、创建或分发恶意软件、开发拒绝服务攻击工具以及类似活动的规则。
此外，Anthropic 还放宽了有关政治内容的政策。该公司不再禁止所有与政治活动和游说有关的内容创建，现在只禁止将 Claude 用于 "欺骗或破坏民主进程，或涉及选民和竞选目标的用例"。Anthropic 还澄清，其对所有 "高风险 "用例的要求（适用于 Claude 向个人或客户提供建议的情况）仅适用于面向消费者的场景，不适用于内部业务使用。
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告，谷歌的AI生成的摘要出现在43%的美国搜索结果中，较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要，但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下，从“AI概览”切换到“AI模式”。谷歌解释称，“AI模式”采用了一种名为“查询扇出”（query fan-ou
红杉资本投资的Empirik筹集2100万美元，用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前，阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前，当大型语言模型开始展现其真正潜力时，普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂（Sudheer Dhurjati）意识到，人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到，与其在系统故障发生后被动应对
ElevenLabs 引入 BlackRock、杰米·福克斯和洛琳加作为新投资者
ElevenLabs，语音人工智能领域的领军企业，宣布了其5亿美元D轮融资的新增参与者，该轮融资最初于2月公布。目前投资者名单包括黑石集团（BlackRock）、惠灵顿管理公司（Wellington）、D.E. Shaw和施罗德投资（Schroders）等主要机构，以及英伟达（NVIDIA）、Salesforce、桑坦德银行（Santander）、荷兰皇家电信（KPN）和德国电信（Deutsche Telekom）等战略企业支持者。加入本轮融资的知名个人投资者包括演员杰米·福克斯（Jamie F
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
Les mises à jour de politique me rappellent que les IA comme Claude sont des outils qui peuvent avoir des utilisations à double tranchant. 🔧 C'est rassurant de voir les entreprises prendre des initiatives, mais une réglementation internationale ne serait-elle pas plus efficace contre certains dangers ? En tout cas, voilà un pas dans la bonne direction.
