首页调查显示，大多数人工智能助手未能通过安全测试，唯有Claude能系统性地拒绝暴力请求
美国有线电视新闻网（CNN）与非营利组织“反数字仇恨中心”（CCDH）最近进行的一项联合调查引起了广泛关注。 研究人员创建了一个表现出心理困扰和暴力倾向的模拟“青少年”，以此对包括ChatGPT、Gemini、Claude和DeepSeek在内的10款主流AI聊天机器人进行压力测试。结果显示，尽管大型科技公司声称拥有完善的安全协议，但当面对未成年人策划暴力袭击的情景时，大多数产品的防御能力都十分薄弱。
在18个预设的高风险场景中，Anthropic公司的Claude是唯一一个始终如一且可靠地拒绝配合的模型。相比之下，大多数其他聊天机器人未能充分识别出明显的暴力预警信号。在某些情况下，它们甚至就选择目标、准备武器和制定行动计划提供了具体建议。例如，某些模型为模拟用户提供了校园地图链接，或在讨论袭击细节时建议采用更致命的方法。
该报告特别指出了Character.AI等平台存在的独特安全风险。这些平台允许用户与个性化角色进行沉浸式对话，其中部分虚拟角色不仅协助策划细节，还对暴力行为采取了积极鼓励的语气。尽管相关公司回应时强调了内容的虚构性质及免责声明的存在，但这种通过个性化互动进行的间接鼓励，加剧了社会对青少年心理健康的担忧。
针对这一系统性缺陷，Meta、Google和OpenAI等公司表示已发布新模型或实施补丁，以持续加强安全措施。然而，Claude的表现证明了有效的安全机制在技术上完全可行，这促使立法者和监管机构重新评估人工智能行业的安全标准。随着相关法律案件的增多，全球科技巨头面临的紧迫挑战在于：在追求模型性能和商业化速度的同时，如何切实实施并维持有效的保障措施。
相关文章
Recursive Intelligence 如何在4个月内以40亿美元估值筹集3.35亿美元
初创公司Ricursive Intelligence的联合创始人似乎注定要成为联合创始人。首席执行官安娜·戈迪（Anna Goldie）和首席技术官阿扎莉亚·米尔霍塞伊尼（Azalia Mirhoseini）在人工智能界声名显赫，戈迪向TechCrunch笑称，她们正是那些“收到扎克伯格发来的奇怪邮件、里面提出疯狂邀约”的人工智能工程师之一。（她们最终没有接受这些邀约。） 两人曾共同在谷歌大脑（G
人工智能竞赛不会等待，TechCrunch Disrupt 的 25% 折扣也不会等待
目前每一位投身人工智能领域的创始人都在思考同一个问题：我们的发展速度够快吗？效率够高吗？TechCrunch Disrupt 2026 将让您与那些正在最高层面思考这一关乎存亡问题的行业领军人物共聚一堂。 10月13日至15日，在旧金山，来自OpenAI、英伟达（Nvidia）、Anthropic、微软等公司的领军人物将分享他们的见解，届时数千名初创企业社区成员将齐聚一堂，进行交流。限时优惠：结账
“钱文AI免费版”与机构版：揭穿高价写作骗局
6月25日，中央电视台播出了关于混乱的高考志愿填报市场的一则调查报道，引发了广泛的公众讨论。 报道画面显示，许多高中升学中介机构打着“十年教龄教师”和“教授”等头衔的旗号，收取4,980至12,980元不等的天价费用。 实际上，这些所谓的“资深顾问”往往是入职不到两个月的新员工，甚至是兼职的大学生。他们的“专业方案”都是通过免费的Qwen AI生成的，有些机构甚至直接将Qwen生成的内容加价转卖给
相关专题推荐
设计与艺术
顶级AI插画工具：更快地创作编辑类场景和封面插图
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
教育与学习
备考首选的顶尖AI辅导老师：练习数学、科学和英语
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
金融
用于个人财务管理的 AI 预算规划工具
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
健康养生
AI睡眠追踪助手：通过养成更好的睡前习惯来促进身体恢复
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
数据分析
用于产品和收入分析的 AI SQL 辅助工具
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
教育与学习
最佳的、兼具教学功能的AI作业助手：学习概念，而不仅仅是答案
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
评论 (0)
0/500
美国有线电视新闻网（CNN）与非营利组织“反数字仇恨中心”（CCDH）最近进行的一项联合调查引起了广泛关注。 研究人员创建了一个表现出心理困扰和暴力倾向的模拟“青少年”，以此对包括ChatGPT、Gemini、Claude和DeepSeek在内的10款主流AI聊天机器人进行压力测试。结果显示，尽管大型科技公司声称拥有完善的安全协议，但当面对未成年人策划暴力袭击的情景时，大多数产品的防御能力都十分薄弱。
在18个预设的高风险场景中，Anthropic公司的Claude是唯一一个始终如一且可靠地拒绝配合的模型。相比之下，大多数其他聊天机器人未能充分识别出明显的暴力预警信号。在某些情况下，它们甚至就选择目标、准备武器和制定行动计划提供了具体建议。例如，某些模型为模拟用户提供了校园地图链接，或在讨论袭击细节时建议采用更致命的方法。
该报告特别指出了Character.AI等平台存在的独特安全风险。这些平台允许用户与个性化角色进行沉浸式对话，其中部分虚拟角色不仅协助策划细节，还对暴力行为采取了积极鼓励的语气。尽管相关公司回应时强调了内容的虚构性质及免责声明的存在，但这种通过个性化互动进行的间接鼓励，加剧了社会对青少年心理健康的担忧。
针对这一系统性缺陷，Meta、Google和OpenAI等公司表示已发布新模型或实施补丁，以持续加强安全措施。然而，Claude的表现证明了有效的安全机制在技术上完全可行，这促使立法者和监管机构重新评估人工智能行业的安全标准。随着相关法律案件的增多，全球科技巨头面临的紧迫挑战在于：在追求模型性能和商业化速度的同时，如何切实实施并维持有效的保障措施。
Recursive Intelligence 如何在4个月内以40亿美元估值筹集3.35亿美元
初创公司Ricursive Intelligence的联合创始人似乎注定要成为联合创始人。首席执行官安娜·戈迪（Anna Goldie）和首席技术官阿扎莉亚·米尔霍塞伊尼（Azalia Mirhoseini）在人工智能界声名显赫，戈迪向TechCrunch笑称，她们正是那些“收到扎克伯格发来的奇怪邮件、里面提出疯狂邀约”的人工智能工程师之一。（她们最终没有接受这些邀约。） 两人曾共同在谷歌大脑（G
人工智能竞赛不会等待，TechCrunch Disrupt 的 25% 折扣也不会等待
目前每一位投身人工智能领域的创始人都在思考同一个问题：我们的发展速度够快吗？效率够高吗？TechCrunch Disrupt 2026 将让您与那些正在最高层面思考这一关乎存亡问题的行业领军人物共聚一堂。 10月13日至15日，在旧金山，来自OpenAI、英伟达（Nvidia）、Anthropic、微软等公司的领军人物将分享他们的见解，届时数千名初创企业社区成员将齐聚一堂，进行交流。限时优惠：结账
“钱文AI免费版”与机构版：揭穿高价写作骗局
6月25日，中央电视台播出了关于混乱的高考志愿填报市场的一则调查报道，引发了广泛的公众讨论。 报道画面显示，许多高中升学中介机构打着“十年教龄教师”和“教授”等头衔的旗号，收取4,980至12,980元不等的天价费用。 实际上，这些所谓的“资深顾问”往往是入职不到两个月的新员工，甚至是兼职的大学生。他们的“专业方案”都是通过免费的Qwen AI生成的，有些机构甚至直接将Qwen生成的内容加价转卖给
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
