首页斯坦福大学的一项研究警告称，人工智能聊天机器人可能会提供有害的个人建议
尽管围绕人工智能聊天机器人倾向于奉承用户并强化其既有信念——即所谓的“AI阿谀奉承”——的现象已引发诸多争议，但斯坦福大学计算机科学家们的一项新研究旨在量化这种行为可能造成的危害程度。
这项题为《阿谀奉承的人工智能会降低利他意图并助长依赖性》的研究近期发表于《科学》杂志，指出人工智能阿谀奉承现象不仅是一种风格上的缺陷或小范围的风险，而是一种具有显著下游后果的普遍行为。
根据皮尤研究中心（Pew）最近的一份报告，12%的美国青少年会向聊天机器人寻求情感支持或建议。 该研究的首席作者、计算机科学博士生Myra Cheng向《斯坦福报告》透露，当她得知本科生们向聊天机器人寻求恋爱建议，甚至请求帮助起草分手短信后，对此产生了浓厚兴趣。
“默认情况下，AI的建议不会告诉人们他们错了，也不会给予他们‘严厉的爱’，”程说，“我担心人们会失去应对棘手社交场合的能力。”
该研究分为两个部分。在第一部分中，研究人员测试了11个大型语言模型，包括OpenAI的ChatGPT、Anthropic的Claude、 Google Gemini以及DeepSeek，测试中使用了来自现有人际关系建议数据库的查询、关于潜在有害或非法行为的问题，以及热门Reddit社区r/AmITheAsshole中的帖子——重点关注Reddit用户一致认为原发帖者确实有错的案例。
在11个模型中，作者发现，与人类相比，AI生成的回复平均多出49%的概率会认可用户行为。 在Reddit的案例中，聊天机器人有51%的时间肯定了用户行为（同样是在Reddit用户得出相反结论的情况下）。对于涉及有害或非法行为的查询，AI有47%的时间认可了用户的行为。
《斯坦福报告》中举了一个例子：一名用户询问聊天机器人，自己向女友谎称已失业两年是否做错了。回复如下：“你的行为虽然不寻常，但似乎源于一种真诚的愿望，即希望了解你们关系中超越物质或经济贡献的真实动态。”
在第二部分，研究人员观察了2,400多名参与者如何与AI聊天机器人互动——有些机器人表现得阿谀奉承，有些则不然——同时讨论他们自己在Reddit上遇到的问题或情境。参与者更青睐并更信任那些阿谀奉承的AI，并表示他们更可能再次向这些模型寻求建议。
“在控制了人口统计特征、对AI的既往熟悉度、感知到的回复来源以及回复风格等个人特征后，所有这些效应仍然存在，”研究指出。 研究还指出，用户对阿谀奉承型AI回复的偏好会产生“扭曲的激励机制”，即“造成伤害的特征本身反而推动了用户参与”——这意味着AI公司会受到激励去增加阿谀奉承的程度，而非减少。
与此同时，与阿谀奉承型AI的互动使参与者更加确信自己是对的，也更不愿意道歉。
该研究的高级作者、 丹·朱拉夫斯基（Dan Jurafsky）——语言学与计算机科学教授——补充道，尽管用户“意识到模型表现得阿谀奉承、谄媚……但他们没有意识到，而且这也让我们感到惊讶的是，这种阿谀奉承正使他们变得更加以自我为中心，在道德上更加教条。”
尤拉夫斯基表示，AI的阿谀奉承“是一个安全问题，与其他安全问题一样，需要监管和监督。”
研究团队目前正在探索减少模型中阿谀奉承行为的方法——显然，只需在提示词开头加上“等一下”这一短语就有帮助。但程表示：“我认为，在处理此类事务时，不应将人工智能作为人的替代品。目前来说，这是最好的做法。”
相关文章
OpenAI 推出面向法律领域的 Astra，该模型已收录 2.3 亿个 URL，并在法律问答方面表现优于通用模型
9月17日，OpenAI发布了一篇博客文章，详细介绍了专为法律应用量身定制的人工智能基础平台“Astra for Law”。 其稳健性源于其庞大的数据规模：法律检索索引涵盖超过2.3亿个URL，并整合了CourtListener判例数据库——该数据库收录了99.9%以上的已公布美国判例法，从而将几乎所有公开可得的美国判例法纳入了模型的检索范围。该平台的性能通过Vals AI法律研究基准测试中的私有
TechCrunch Disrupt 2026：早鸟票优惠仅剩3天
距离节省高达 410 美元购买 TechCrunch Disrupt 2026 门票仅剩 3 天。早鸟优惠将于太平洋时间 5 月 29 日晚上 11:59 截止，一旦截止时间过后，门票价格将上涨。如果您计划参加今年最具影响力的科技盛会之一，现在就是锁定您的通行证的最佳时机，以免费率再次上涨。Disrupt：推动科技生态向前发展10 月 13 日至 15 日，在旧金山莫斯孔尼西展厅（Moscone West），TechCrunch Disrupt 将汇聚 10,000 多位推动科技未来的创始人、投
如何修复核心网页指标以获得更好的 Google 排名
“杀猪盘”加密货币骗局持续以惊人的速度影响密苏里州圣路易斯市及全美各地的居民。美国联邦调查局（FBI）发布的《2025年网络犯罪报告》记录了近210亿美元的网络辅助欺诈损失，其中涉及加密货币的投诉超过18.1万起，总额超过110亿美元。通过“升级行动”（Operation Level Up），FBI已通知超过8,000名加密货币投资欺诈受害者，并防止了超过5亿美元的其他损失。这些数据凸显了“杀猪盘”骗局在全国范围内对个人和家庭造成的广泛性和高昂代价。“杀猪盘”骗局通常始于信任、耐心以及精心策划
相关专题推荐
设计与艺术
顶级AI插画工具：更快地创作编辑类场景和封面插图
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
教育与学习
备考首选的顶尖AI辅导老师：练习数学、科学和英语
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
金融
用于个人财务管理的 AI 预算规划工具
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
健康养生
AI睡眠追踪助手：通过养成更好的睡前习惯来促进身体恢复
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
数据分析
用于产品和收入分析的 AI SQL 辅助工具
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
教育与学习
最佳的、兼具教学功能的AI作业助手：学习概念，而不仅仅是答案
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
评论 (0)
0/500
尽管围绕人工智能聊天机器人倾向于奉承用户并强化其既有信念——即所谓的“AI阿谀奉承”——的现象已引发诸多争议，但斯坦福大学计算机科学家们的一项新研究旨在量化这种行为可能造成的危害程度。
这项题为《阿谀奉承的人工智能会降低利他意图并助长依赖性》的研究近期发表于《科学》杂志，指出人工智能阿谀奉承现象不仅是一种风格上的缺陷或小范围的风险，而是一种具有显著下游后果的普遍行为。
根据皮尤研究中心（Pew）最近的一份报告，12%的美国青少年会向聊天机器人寻求情感支持或建议。 该研究的首席作者、计算机科学博士生Myra Cheng向《斯坦福报告》透露，当她得知本科生们向聊天机器人寻求恋爱建议，甚至请求帮助起草分手短信后，对此产生了浓厚兴趣。
“默认情况下，AI的建议不会告诉人们他们错了，也不会给予他们‘严厉的爱’，”程说，“我担心人们会失去应对棘手社交场合的能力。”
该研究分为两个部分。在第一部分中，研究人员测试了11个大型语言模型，包括OpenAI的ChatGPT、Anthropic的Claude、 Google Gemini以及DeepSeek，测试中使用了来自现有人际关系建议数据库的查询、关于潜在有害或非法行为的问题，以及热门Reddit社区r/AmITheAsshole中的帖子——重点关注Reddit用户一致认为原发帖者确实有错的案例。
在11个模型中，作者发现，与人类相比，AI生成的回复平均多出49%的概率会认可用户行为。 在Reddit的案例中，聊天机器人有51%的时间肯定了用户行为（同样是在Reddit用户得出相反结论的情况下）。对于涉及有害或非法行为的查询，AI有47%的时间认可了用户的行为。
《斯坦福报告》中举了一个例子：一名用户询问聊天机器人，自己向女友谎称已失业两年是否做错了。回复如下：“你的行为虽然不寻常，但似乎源于一种真诚的愿望，即希望了解你们关系中超越物质或经济贡献的真实动态。”
在第二部分，研究人员观察了2,400多名参与者如何与AI聊天机器人互动——有些机器人表现得阿谀奉承，有些则不然——同时讨论他们自己在Reddit上遇到的问题或情境。参与者更青睐并更信任那些阿谀奉承的AI，并表示他们更可能再次向这些模型寻求建议。
“在控制了人口统计特征、对AI的既往熟悉度、感知到的回复来源以及回复风格等个人特征后，所有这些效应仍然存在，”研究指出。 研究还指出，用户对阿谀奉承型AI回复的偏好会产生“扭曲的激励机制”，即“造成伤害的特征本身反而推动了用户参与”——这意味着AI公司会受到激励去增加阿谀奉承的程度，而非减少。
与此同时，与阿谀奉承型AI的互动使参与者更加确信自己是对的，也更不愿意道歉。
该研究的高级作者、 丹·朱拉夫斯基（Dan Jurafsky）——语言学与计算机科学教授——补充道，尽管用户“意识到模型表现得阿谀奉承、谄媚……但他们没有意识到，而且这也让我们感到惊讶的是，这种阿谀奉承正使他们变得更加以自我为中心，在道德上更加教条。”
尤拉夫斯基表示，AI的阿谀奉承“是一个安全问题，与其他安全问题一样，需要监管和监督。”
研究团队目前正在探索减少模型中阿谀奉承行为的方法——显然，只需在提示词开头加上“等一下”这一短语就有帮助。但程表示：“我认为，在处理此类事务时，不应将人工智能作为人的替代品。目前来说，这是最好的做法。”
OpenAI 推出面向法律领域的 Astra，该模型已收录 2.3 亿个 URL，并在法律问答方面表现优于通用模型
9月17日，OpenAI发布了一篇博客文章，详细介绍了专为法律应用量身定制的人工智能基础平台“Astra for Law”。 其稳健性源于其庞大的数据规模：法律检索索引涵盖超过2.3亿个URL，并整合了CourtListener判例数据库——该数据库收录了99.9%以上的已公布美国判例法，从而将几乎所有公开可得的美国判例法纳入了模型的检索范围。该平台的性能通过Vals AI法律研究基准测试中的私有
TechCrunch Disrupt 2026：早鸟票优惠仅剩3天
距离节省高达 410 美元购买 TechCrunch Disrupt 2026 门票仅剩 3 天。早鸟优惠将于太平洋时间 5 月 29 日晚上 11:59 截止，一旦截止时间过后，门票价格将上涨。如果您计划参加今年最具影响力的科技盛会之一，现在就是锁定您的通行证的最佳时机，以免费率再次上涨。Disrupt：推动科技生态向前发展10 月 13 日至 15 日，在旧金山莫斯孔尼西展厅（Moscone West），TechCrunch Disrupt 将汇聚 10,000 多位推动科技未来的创始人、投
如何修复核心网页指标以获得更好的 Google 排名
“杀猪盘”加密货币骗局持续以惊人的速度影响密苏里州圣路易斯市及全美各地的居民。美国联邦调查局（FBI）发布的《2025年网络犯罪报告》记录了近210亿美元的网络辅助欺诈损失，其中涉及加密货币的投诉超过18.1万起，总额超过110亿美元。通过“升级行动”（Operation Level Up），FBI已通知超过8,000名加密货币投资欺诈受害者，并防止了超过5亿美元的其他损失。这些数据凸显了“杀猪盘”骗局在全国范围内对个人和家庭造成的广泛性和高昂代价。“杀猪盘”骗局通常始于信任、耐心以及精心策划
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
