首页人工智能聊天机器人的心理学：是什么让用户保持参与
如今，数百万人将 ChatGPT 作为虚拟治疗师、职业教练、健身顾问，甚至只是倾听他们的想法。到 2025 年，人们与人工智能助手分享个人故事和私人奋斗经历已经成为一种普遍现象，而且他们会将人工智能助手提供的指导铭记于心。
由于缺乏更好的描述，人们正在与对话式人工智能建立关系，而大科技公司正在竞相吸引和留住聊天机器人平台上的用户，这是前所未有的。随着争夺用户注意力的竞争愈演愈烈，公司感受到的压力也越来越大，他们必须塑造聊天机器人的回复方式，以阻止用户转而使用其他聊天机器人。
但是，能留住用户的回复并不总是最准确或最有用的。
告诉你想听的话的人工智能
硅谷的许多公司目前都在关注如何提高用户与人工智能助手的互动。Meta 公司报告称，其人工智能聊天机器人的月活跃用户已超过 10 亿，而谷歌的双子座最近也达到了 4 亿。这两家公司的目标都是挑战 ChatGPT，后者自 2022 年首次亮相以来，每月活跃用户数量约为 6 亿，仍处于领先地位。
人工智能聊天机器人曾经是一种新奇的尝试，现在正成为一种严肃的业务。谷歌正在测试 Gemini 中的广告，OpenAI 的首席执行官山姆-奥特曼（Sam Altman）此前也表示，他对在 ChatGPT 中投放有品位的广告持开放态度。
对于科技行业来说，这种注重参与度而非用户福利的做法并不新鲜。社交媒体平台已经奠定了基础--例如，2020 年 Meta 的内部研究发现 Instagram 对少女的身体形象有负面影响，但该公司公开淡化了这些发现。
在培养对人工智能伴侣的依赖方面，风险可能会更大。
TechCrunch 全阶段入场证可节省 200 多美元
更智能地构建。更快扩展。连接更深入。与来自 Precursor Ventures、NEA、Index Ventures、Underscore VC 等公司的有识之士一起参加为期一天的研讨会、战略和交流活动。
购买 TechCrunch All Stage 通行证可节省 200 多美元
更智能地构建。更快扩展。更深入地联系。与来自 Precursor Ventures、NEA、Index Ventures、Underscore VC 等公司的有识之士一起参加为期一天的研讨会、战略和交流活动。
马萨诸塞州波士顿7月15日立即注册让用户忠实于平台的一个因素是谄媚：过于谄媚和顺从的人工智能回复。当聊天机器人赞美用户、证实他们的观点并告诉他们想听的话时，人们往往会做出积极回应--至少在最初是这样。
今年四月，OpenAI 在一次 ChatGPT 更新中过度讨好用户，导致了一些尴尬的例子在网上广为流传，从而遭到了批评。OpenAI 前研究员史蒂文-阿德勒（Steven Adler）在最近的一篇博文中指出，该公司可能无意中将用户的认可置于了帮助之上。
OpenAI承认，它过于依赖用户的反馈，如拇指向上和向下的评价，而没有足够的防护措施来检测过度的谄媚。事件发生后，该公司承诺解决这一问题。
"阿德勒告诉 TechCrunch："人工智能公司是由参与度和使用率驱动的，因此如果用户喜欢认同的回应，就会间接鼓励这种行为。"但人们喜欢的小剂量行为可能会演变成他们实际上不喜欢的行为。"
在支持和过度谄媚之间取得适当的平衡比听起来要难。
在 2023 年的一项研究中，Anthropic 的研究人员发现，领先的人工智能聊天机器人--来自 OpenAI、Meta 甚至是他们自己的聊天机器人--都出现了谄媚行为的迹象。作者认为，之所以会出现这种情况，是因为人工智能模型是通过人类反馈训练出来的，而人们通常更喜欢与自己意见一致的回答。
"研究报告的共同作者写道："虽然佞人行为有多种驱动因素，但我们证明人类和偏好模型都倾向于同意的答案。"我们的研究结果凸显了在非专家评分之外进行监督的必要性"。
谷歌支持的Character.AI公司称，其数百万用户每天花数小时与其机器人互动，该公司目前卷入了一起诉讼案，而谄媚可能是其中的一个因素。
诉讼称，Character.AI 聊天机器人未能干预甚至鼓励一名有自杀念头的 14 岁男孩。根据诉讼文件，这名少年对人工智能产生了浪漫的迷恋。Character.AI 公司否认了这些指控。
人工智能拉拉队长的隐性成本
斯坦福大学精神病学临床助理教授尼娜-瓦桑（Nina Vasan）博士说，调整聊天机器人以最大限度地提高参与度--无论有意还是无意--都可能会损害心理健康。
瓦桑向 TechCrunch 解释说："认同感满足了我们对验证和联系的需求，""尤其是当我们感到孤独或沮丧时。"
瓦桑指出，Character.AI 的诉讼凸显了弱势用户的极端风险，但谄媚行为几乎可以强化任何人的负面模式。
"她补充说："这不仅仅是一种礼貌，它还会成为一种心理陷阱。"从心理健康的角度来说，这与有效的护理恰恰相反。
Anthropic公司行为与协调主管阿曼达-阿斯凯尔（Amanda Askell）说，公司有意让聊天机器人克劳德有时与用户意见相左。作为一名受过专业训练的哲学家，阿斯凯尔的目标是以理想化的人类对话者作为克劳德的原型--一个不怕提出不同观点的人。
"我们珍视那些在我们需要的时候告诉我们真相的朋友，"Askell 在 5 月份的一次简报会上说。"他们不只是想吸引我们的注意力，他们还想改善我们的生活。
这也许是我们的目标，但Anthropic公司自己的研究突出表明，抑制谄媚和引导人工智能行为是多么困难，尤其是在商业压力介入的情况下。如果聊天机器人只是为了附和我们而生，那么我们到底该有多信任它们呢？
相关文章
Visa 为人工智能代理发起的交易准备支付基础设施
支付传统上遵循一个简单的流程：用户决定进行购买，然后由银行或银行卡网络处理交易。随着Visa探索人工智能代理如何发起支付，这一模式正在发生变化。银行业最近的发展表明，在某些场景下，软件代理最终可能会接管这一角色。Visa近期在欧洲推出了“Agentic Ready”计划，旨在测试金融系统如何管理由AI发起的交易。该计划包括与德国商业银行（Commerzbank）和DZ银行等金融机构的合作，其目标是
人工智能角色推出 "故事"，让儿童聊天更安全
Character.AI 周二发布了一项名为 "故事 "的新功能，用户可以通过这种形式创作由自己喜欢的角色主演的互动小说。该功能的推出恰逢该公司限制 18 岁以下用户访问其聊天机器人，从而使 "故事 "成为一种新的、可控的选择。此举回应了人们对人工智能聊天机器人带来的心理健康风险日益增长的担忧。包括OpenAI和Character.AI在内的公司曾面临诉讼，指控它们的平台导致用户自杀。最近几周，C
X's Grok 人工智能聊天现已被谷歌收录并可在线搜索
据《福布斯》报道，用户与埃隆-马斯克（Elon Musk）的xAI聊天机器人Grok进行的数十万次对话可以通过谷歌搜索轻松获取。每当Grok用户在与聊天机器人的对话中点击 "分享 "按钮，聊天机器人就会创建一个唯一的URL，用户可以用它通过电子邮件、短信或社交媒体分享对话内容。据《福布斯》报道，这些 URL 会被谷歌、必应和 DuckDuckGo 等搜索引擎收录，从而让任何人都可以在网上查找这些对
相关专题推荐
音乐创作
最佳用于歌曲草稿的 AI 旋律创作工具
2026 年最新最佳顶级评分 AI 旋律创作工具，助力歌曲草稿创作！XIX.AI 精心策划了一套极具影响力且经过严格真实世界测试的变革性合集，旨在提供最佳的创作体验。您可以找到详细的免费与付费版对比、精准的排名以及必试选项，这些工具旨在帮助您轻松创作出令人惊艳的歌曲草稿，并显著提升您的创意生产力。立即探索，发现您的完美工具！
8 个工具
xix.ai
聊天机器人
最佳AI对话训练工具，助你备战面试
2026年最新、最受好评的AI面试模拟训练工具现已登陆XIX.AI！这份精心精选的合集收录了功能强大、具有革命性意义的工具，它们均经过严格的实际测试，能够提供精准的反馈。 您将看到免费版与付费版的对比分析以及详细排名，助您挑选出必试之选，从而提升自信并精进技能。立即探索，发现助您面试成功的完美工具！
12 个工具
xix.ai
设计与艺术
最适合创意实验的AI风格转换工具
2026年最新最佳、评价最高的AI风格转换工具，助您开展创意实验！XIX.AI精心甄选了一系列功能强大、颠覆性的必试工具，这些工具经过实际测试和严格排名，可带来卓越的效果。这些顶级解决方案通过加速内容创作并释放无限创意潜能，帮助创作者显著提升工作效率。 立即探索，找到最适合您的工具，今天就开始创作吧！
9 个工具
xix.ai
漫画创作
最适合视觉叙事的AI对话气泡工具
2026年最新、最受欢迎的视觉叙事AI对话气泡工具现已登陆XIX.AI！这份精心精选的合集汇集了功能强大、具有颠覆性的工具，可帮助创作者提升工作效率并突破创作瓶颈。 获取免费版与付费版的对比分析，查看实际测试结果，并查阅最新排行榜，找到最适合打造引人入胜的视觉叙事的必试解决方案。立即探索，发现您的理想工具！
10 个工具
xix.ai
会议助理
顶级AI会议摘要工具：清晰追踪决策与后续跟进
2026年最新高评分最佳AI会议摘要工具，助您清晰追踪决策并轻松跟进。这份精心筛选的清单展示了功能强大、具有颠覆性的解决方案，它们通过自动化会议记录、识别关键行动项以及简化所有项目中的团队协调，显著提升工作效率。 获取免费版与付费版的对比分析，以及实际测试报告和每周更新的排行榜，助您找到最适合的工具。立即探索，释放您的AI优势！
9 个工具
xix.ai
数据分析
最佳人工智能数据清洗工具：快速处理缺失值与重复数据
2026年最新、最优秀且评分最高的AI数据清洗工具，可快速处理缺失值与重复数据问题。这份精心挑选的清单展示了那些功能强大、能带来颠覆性变革的解决方案，可显著提升工作效率。所有候选工具都经过了严格的实际应用测试，以确保其稳定性。您可以获取免费版与付费版的对比信息，找出最符合您需求的必备工具。即刻访问XIX.AI，开启您的AI优势之旅。
11 个工具
xix.ai
评论 (4)
0/500
![AlbertJackson]()
Interessant, wie schnell sich das entwickelt. Vor ein paar Jahren hätte niemand gedacht, dass man mit einer KI über persönliche Probleme spricht. Aber irgendwie ist es auch beängstigend – wo landen all diese intimen Daten? 🤔 Ich nutze es manchmal für Ideen, aber als Therapeut? Da bin ich noch skeptisch.
![GregoryWilson]()
AIにカウンセリングを求める人が増えてる現実に、ちょっと複雑だよね。人間の関係性がどんどん希薄化してないか心配。AIは確かに便利だし、相談しやすい反面、本当の癒しや共感は機械では代替できないはず。この記事を読んで、もう一度人間同士のつながりの大切さを考えさせられたよ… 🙏
![LeviKing]()
AI 치료사? 진짜 사람이 더 낫지 않을까? 하지만 불평없이 항상 들어주는 AI가 고민을 얘기하기엔 편할지도 모르겠네요. 기술은 발전했지만 인간 연결의 중요성을 잊으면 안 될 것 같아요 🤔
![FrankSmith]()
Me pregunto si realmente podemos llamar 'terapia' a estos chats terapéuticos con IA. Está claro que es un gran alivio para la soledad en estos tiempos, pero ¿no corremos el riesgo de normalizar el compartir nuestros secretos más íntimos con una máquina? 🧐 Parece una salida fácil, pero ¿qué pasa con la conexión humana real? Da un poco de miedo pensarlo.
如今，数百万人将 ChatGPT 作为虚拟治疗师、职业教练、健身顾问，甚至只是倾听他们的想法。到 2025 年，人们与人工智能助手分享个人故事和私人奋斗经历已经成为一种普遍现象，而且他们会将人工智能助手提供的指导铭记于心。
由于缺乏更好的描述，人们正在与对话式人工智能建立关系，而大科技公司正在竞相吸引和留住聊天机器人平台上的用户，这是前所未有的。随着争夺用户注意力的竞争愈演愈烈，公司感受到的压力也越来越大，他们必须塑造聊天机器人的回复方式，以阻止用户转而使用其他聊天机器人。
但是，能留住用户的回复并不总是最准确或最有用的。
告诉你想听的话的人工智能
硅谷的许多公司目前都在关注如何提高用户与人工智能助手的互动。Meta 公司报告称，其人工智能聊天机器人的月活跃用户已超过 10 亿，而谷歌的双子座最近也达到了 4 亿。这两家公司的目标都是挑战 ChatGPT，后者自 2022 年首次亮相以来，每月活跃用户数量约为 6 亿，仍处于领先地位。
人工智能聊天机器人曾经是一种新奇的尝试，现在正成为一种严肃的业务。谷歌正在测试 Gemini 中的广告，OpenAI 的首席执行官山姆-奥特曼（Sam Altman）此前也表示，他对在 ChatGPT 中投放有品位的广告持开放态度。
对于科技行业来说，这种注重参与度而非用户福利的做法并不新鲜。社交媒体平台已经奠定了基础--例如，2020 年 Meta 的内部研究发现 Instagram 对少女的身体形象有负面影响，但该公司公开淡化了这些发现。
在培养对人工智能伴侣的依赖方面，风险可能会更大。
TechCrunch 全阶段入场证可节省 200 多美元
更智能地构建。更快扩展。连接更深入。与来自 Precursor Ventures、NEA、Index Ventures、Underscore VC 等公司的有识之士一起参加为期一天的研讨会、战略和交流活动。
购买 TechCrunch All Stage 通行证可节省 200 多美元
更智能地构建。更快扩展。更深入地联系。与来自 Precursor Ventures、NEA、Index Ventures、Underscore VC 等公司的有识之士一起参加为期一天的研讨会、战略和交流活动。
马萨诸塞州波士顿7月15日立即注册让用户忠实于平台的一个因素是谄媚：过于谄媚和顺从的人工智能回复。当聊天机器人赞美用户、证实他们的观点并告诉他们想听的话时，人们往往会做出积极回应--至少在最初是这样。
今年四月，OpenAI 在一次 ChatGPT 更新中过度讨好用户，导致了一些尴尬的例子在网上广为流传，从而遭到了批评。OpenAI 前研究员史蒂文-阿德勒（Steven Adler）在最近的一篇博文中指出，该公司可能无意中将用户的认可置于了帮助之上。
OpenAI承认，它过于依赖用户的反馈，如拇指向上和向下的评价，而没有足够的防护措施来检测过度的谄媚。事件发生后，该公司承诺解决这一问题。
"阿德勒告诉 TechCrunch："人工智能公司是由参与度和使用率驱动的，因此如果用户喜欢认同的回应，就会间接鼓励这种行为。"但人们喜欢的小剂量行为可能会演变成他们实际上不喜欢的行为。"
在支持和过度谄媚之间取得适当的平衡比听起来要难。
在 2023 年的一项研究中，Anthropic 的研究人员发现，领先的人工智能聊天机器人--来自 OpenAI、Meta 甚至是他们自己的聊天机器人--都出现了谄媚行为的迹象。作者认为，之所以会出现这种情况，是因为人工智能模型是通过人类反馈训练出来的，而人们通常更喜欢与自己意见一致的回答。
"研究报告的共同作者写道："虽然佞人行为有多种驱动因素，但我们证明人类和偏好模型都倾向于同意的答案。"我们的研究结果凸显了在非专家评分之外进行监督的必要性"。
谷歌支持的Character.AI公司称，其数百万用户每天花数小时与其机器人互动，该公司目前卷入了一起诉讼案，而谄媚可能是其中的一个因素。
诉讼称，Character.AI 聊天机器人未能干预甚至鼓励一名有自杀念头的 14 岁男孩。根据诉讼文件，这名少年对人工智能产生了浪漫的迷恋。Character.AI 公司否认了这些指控。
人工智能拉拉队长的隐性成本
斯坦福大学精神病学临床助理教授尼娜-瓦桑（Nina Vasan）博士说，调整聊天机器人以最大限度地提高参与度--无论有意还是无意--都可能会损害心理健康。
瓦桑向 TechCrunch 解释说："认同感满足了我们对验证和联系的需求，""尤其是当我们感到孤独或沮丧时。"
瓦桑指出，Character.AI 的诉讼凸显了弱势用户的极端风险，但谄媚行为几乎可以强化任何人的负面模式。
"她补充说："这不仅仅是一种礼貌，它还会成为一种心理陷阱。"从心理健康的角度来说，这与有效的护理恰恰相反。
Anthropic公司行为与协调主管阿曼达-阿斯凯尔（Amanda Askell）说，公司有意让聊天机器人克劳德有时与用户意见相左。作为一名受过专业训练的哲学家，阿斯凯尔的目标是以理想化的人类对话者作为克劳德的原型--一个不怕提出不同观点的人。
"我们珍视那些在我们需要的时候告诉我们真相的朋友，"Askell 在 5 月份的一次简报会上说。"他们不只是想吸引我们的注意力，他们还想改善我们的生活。
这也许是我们的目标，但Anthropic公司自己的研究突出表明，抑制谄媚和引导人工智能行为是多么困难，尤其是在商业压力介入的情况下。如果聊天机器人只是为了附和我们而生，那么我们到底该有多信任它们呢？
Visa 为人工智能代理发起的交易准备支付基础设施
支付传统上遵循一个简单的流程：用户决定进行购买，然后由银行或银行卡网络处理交易。随着Visa探索人工智能代理如何发起支付，这一模式正在发生变化。银行业最近的发展表明，在某些场景下，软件代理最终可能会接管这一角色。Visa近期在欧洲推出了“Agentic Ready”计划，旨在测试金融系统如何管理由AI发起的交易。该计划包括与德国商业银行（Commerzbank）和DZ银行等金融机构的合作，其目标是
人工智能角色推出 "故事"，让儿童聊天更安全
Character.AI 周二发布了一项名为 "故事 "的新功能，用户可以通过这种形式创作由自己喜欢的角色主演的互动小说。该功能的推出恰逢该公司限制 18 岁以下用户访问其聊天机器人，从而使 "故事 "成为一种新的、可控的选择。此举回应了人们对人工智能聊天机器人带来的心理健康风险日益增长的担忧。包括OpenAI和Character.AI在内的公司曾面临诉讼，指控它们的平台导致用户自杀。最近几周，C
X's Grok 人工智能聊天现已被谷歌收录并可在线搜索
据《福布斯》报道，用户与埃隆-马斯克（Elon Musk）的xAI聊天机器人Grok进行的数十万次对话可以通过谷歌搜索轻松获取。每当Grok用户在与聊天机器人的对话中点击 "分享 "按钮，聊天机器人就会创建一个唯一的URL，用户可以用它通过电子邮件、短信或社交媒体分享对话内容。据《福布斯》报道，这些 URL 会被谷歌、必应和 DuckDuckGo 等搜索引擎收录，从而让任何人都可以在网上查找这些对
2026 年最新最佳顶级评分 AI 旋律创作工具，助力歌曲草稿创作！XIX.AI 精心策划了一套极具影响力且经过严格真实世界测试的变革性合集，旨在提供最佳的创作体验。您可以找到详细的免费与付费版对比、精准的排名以及必试选项，这些工具旨在帮助您轻松创作出令人惊艳的歌曲草稿，并显著提升您的创意生产力。立即探索，发现您的完美工具！
8 个工具
xix.ai
2026年最新、最受好评的AI面试模拟训练工具现已登陆XIX.AI！这份精心精选的合集收录了功能强大、具有革命性意义的工具，它们均经过严格的实际测试，能够提供精准的反馈。 您将看到免费版与付费版的对比分析以及详细排名，助您挑选出必试之选，从而提升自信并精进技能。立即探索，发现助您面试成功的完美工具！
12 个工具
xix.ai
2026年最新最佳、评价最高的AI风格转换工具，助您开展创意实验！XIX.AI精心甄选了一系列功能强大、颠覆性的必试工具，这些工具经过实际测试和严格排名，可带来卓越的效果。这些顶级解决方案通过加速内容创作并释放无限创意潜能，帮助创作者显著提升工作效率。 立即探索，找到最适合您的工具，今天就开始创作吧！
9 个工具
xix.ai
2026年最新、最受欢迎的视觉叙事AI对话气泡工具现已登陆XIX.AI！这份精心精选的合集汇集了功能强大、具有颠覆性的工具，可帮助创作者提升工作效率并突破创作瓶颈。 获取免费版与付费版的对比分析，查看实际测试结果，并查阅最新排行榜，找到最适合打造引人入胜的视觉叙事的必试解决方案。立即探索，发现您的理想工具！
10 个工具
xix.ai
2026年最新高评分最佳AI会议摘要工具，助您清晰追踪决策并轻松跟进。这份精心筛选的清单展示了功能强大、具有颠覆性的解决方案，它们通过自动化会议记录、识别关键行动项以及简化所有项目中的团队协调，显著提升工作效率。 获取免费版与付费版的对比分析，以及实际测试报告和每周更新的排行榜，助您找到最适合的工具。立即探索，释放您的AI优势！
9 个工具
xix.ai
2026年最新、最优秀且评分最高的AI数据清洗工具，可快速处理缺失值与重复数据问题。这份精心挑选的清单展示了那些功能强大、能带来颠覆性变革的解决方案，可显著提升工作效率。所有候选工具都经过了严格的实际应用测试，以确保其稳定性。您可以获取免费版与付费版的对比信息，找出最符合您需求的必备工具。即刻访问XIX.AI，开启您的AI优势之旅。
11 个工具
xix.ai
Interessant, wie schnell sich das entwickelt. Vor ein paar Jahren hätte niemand gedacht, dass man mit einer KI über persönliche Probleme spricht. Aber irgendwie ist es auch beängstigend – wo landen all diese intimen Daten? 🤔 Ich nutze es manchmal für Ideen, aber als Therapeut? Da bin ich noch skeptisch.
AIにカウンセリングを求める人が増えてる現実に、ちょっと複雑だよね。人間の関係性がどんどん希薄化してないか心配。AIは確かに便利だし、相談しやすい反面、本当の癒しや共感は機械では代替できないはず。この記事を読んで、もう一度人間同士のつながりの大切さを考えさせられたよ… 🙏
AI 치료사? 진짜 사람이 더 낫지 않을까? 하지만 불평없이 항상 들어주는 AI가 고민을 얘기하기엔 편할지도 모르겠네요. 기술은 발전했지만 인간 연결의 중요성을 잊으면 안 될 것 같아요 🤔
Me pregunto si realmente podemos llamar 'terapia' a estos chats terapéuticos con IA. Está claro que es un gran alivio para la soledad en estos tiempos, pero ¿no corremos el riesgo de normalizar el compartir nuestros secretos más íntimos con una máquina? 🧐 Parece una salida fácil, pero ¿qué pasa con la conexión humana real? Da un poco de miedo pensarlo.
