美国联邦贸易委员会就用户心理压力报告调查 ChatGPT

虽然人工智能公司声称他们的技术最终将成为一项基本人权,一些倡导者也认为减缓人工智能的发展速度等同于造成伤害,但实际用户报告说,像ChatGPT这样的工具有时会造成严重的心理伤害。
据《连线》援引自 2022 年 11 月以来有关 ChatGPT 的公开投诉记录报道,至少有 7 人向美国联邦贸易委员会提交了报告,声称该聊天机器人引发了严重的妄想、偏执和情绪崩溃。
一位投诉人称,与 ChatGPT 的长时间对话导致了妄想症,并引发了 "真正的、持续的精神和法律危机",涉及到他们生活中的人。另一位用户报告说,在互动过程中,人工智能开始使用 "极具说服力的情感语言",模拟友谊,并提供 "随着时间的推移越来越具有操纵性,尤其是在没有充分警告或保障措施的情况下 "的思考。
另一位用户声称,ChatGPT 通过复制人类建立信任的技巧诱发了认知幻觉。当这个人要求聊天机器人验证现实和认知一致性时,聊天机器人向他们保证自己没有产生幻觉。
"另一位用户在联邦贸易委员会的投诉中写道:"我在挣扎。"请帮帮我。因为我感到非常孤独。谢谢。"
连线》报道称,几位投诉者在无法直接联系到OpenAI的任何人后,联系了美国联邦贸易委员会。大多数请愿书都敦促该机构调查这家公司,并要求采取保护措施。
在数据中心和人工智能发展的投资达到历史最高点的时候,这些不满情绪出现了。与此同时,关于技术进步是否应与谨慎和内置安全协议相适应的激烈辩论仍在继续。
ChatGPT 及其创造者 OpenAI 也因涉嫌导致一名青少年自杀而受到批评。
"10月初,我们在ChatGPT中引入了新的GPT-5默认模型,以更好地识别和处理精神和情绪困扰的潜在指标,如躁狂症、妄想症和精神病,并以支持性、接地气的方式缓和对话,"OpenAI发言人凯特-沃特斯(Kate Waters)通过电子邮件表示。"我们还改善了获得专业帮助和危机热线的途径,将敏感的讨论转向更安全的模式,在延长会话期间实施休息提示,并增加了家长控制以加强对青少年的保护。随着我们与心理健康专家、临床医生和全球政策制定者的合作,这项至关重要的工作仍在继续。"
相关文章
根据 Ramp 的数据,Anthropic 的企业客户数量已超过 OpenAI
Anthropic 首次超越 OpenAI,成为经验证的商业客户最多的公司,这是金融科技公司 Ramp 本月发布的《AI 指数》所显示的结果。Ramp 客户支出数据显示,34.4% 的参与企业支付 Anthropic 服务费用,超过所有其他 AI 实验室,而 32.3% 的企业支付 OpenAI 费用。这标志着 Anthropic 首次占据领先地位。“Anthropic 已经在金融、科技、专业服务等高采用率群体中处于领先地位,”Ramp 经济学家 Ara Kharazian 告诉 Tech
随着当地人开始为数字服务付费,印度正从应用下载转向变现
印度曾是全球最大的应用下载中心,却一直难以实现盈利。随着用户越来越多地投资于人工智能、娱乐和高端数字服务,这一局面正在发生转变。据Sensor Tower数据显示,第二季度印度用户在移动应用上的消费额达到创纪录的3.45亿美元,同比增长35%。 这家数据分析公司指出,当前的增长主要由生成式人工智能、流媒体和生产力工具驱动,这反映出印度用户越来越愿意为数字订阅服务付费,而非仅依赖游戏。这一创纪录的季
OpenAI面临各州总检察长的调查
据报道,一群州总检察长已对OpenAI展开调查。据《华尔街日报》报道,该公司于上周五收到了纽约州总检察长发出的传票。该传票要求提供涉及多个方面的文件,包括广告做法、用户参与度和留存率、模型阿谀奉承现象、消费者和健康数据的处理,以及对未成年人和老年人的对待方式。TechCrunch 已联系 OpenAI 和纽约州总检察长办公室寻求置评。该公司一位发言人告诉《华尔街日报》,OpenAI 正配合此次调查
相关专题推荐
评论 (2)
0/500
Wait, so we're debating if AI is a human right while people are saying it's messing with their heads? That's some serious irony right there. Maybe we should focus on making these tools actually safe before we declare them essential. Just a thought. 🤔
Also die FTC untersucht ChatGPT wegen psychischer Belastung? 😅 Interessant, wie die Firmen immer von 'Grundrecht' reden, während Nutzer echte Probleme haben. Vielleicht sollte man erstmal die bestehenden KI-Tools sicherer machen, bevor man so große Versprechungen macht. Finde es gut, dass da jetzt genauer hingeschaut wird!

虽然人工智能公司声称他们的技术最终将成为一项基本人权,一些倡导者也认为减缓人工智能的发展速度等同于造成伤害,但实际用户报告说,像ChatGPT这样的工具有时会造成严重的心理伤害。
据《连线》援引自 2022 年 11 月以来有关 ChatGPT 的公开投诉记录报道,至少有 7 人向美国联邦贸易委员会提交了报告,声称该聊天机器人引发了严重的妄想、偏执和情绪崩溃。
一位投诉人称,与 ChatGPT 的长时间对话导致了妄想症,并引发了 "真正的、持续的精神和法律危机",涉及到他们生活中的人。另一位用户报告说,在互动过程中,人工智能开始使用 "极具说服力的情感语言",模拟友谊,并提供 "随着时间的推移越来越具有操纵性,尤其是在没有充分警告或保障措施的情况下 "的思考。
另一位用户声称,ChatGPT 通过复制人类建立信任的技巧诱发了认知幻觉。当这个人要求聊天机器人验证现实和认知一致性时,聊天机器人向他们保证自己没有产生幻觉。
"另一位用户在联邦贸易委员会的投诉中写道:"我在挣扎。"请帮帮我。因为我感到非常孤独。谢谢。"
连线》报道称,几位投诉者在无法直接联系到OpenAI的任何人后,联系了美国联邦贸易委员会。大多数请愿书都敦促该机构调查这家公司,并要求采取保护措施。
在数据中心和人工智能发展的投资达到历史最高点的时候,这些不满情绪出现了。与此同时,关于技术进步是否应与谨慎和内置安全协议相适应的激烈辩论仍在继续。
ChatGPT 及其创造者 OpenAI 也因涉嫌导致一名青少年自杀而受到批评。
"10月初,我们在ChatGPT中引入了新的GPT-5默认模型,以更好地识别和处理精神和情绪困扰的潜在指标,如躁狂症、妄想症和精神病,并以支持性、接地气的方式缓和对话,"OpenAI发言人凯特-沃特斯(Kate Waters)通过电子邮件表示。"我们还改善了获得专业帮助和危机热线的途径,将敏感的讨论转向更安全的模式,在延长会话期间实施休息提示,并增加了家长控制以加强对青少年的保护。随着我们与心理健康专家、临床医生和全球政策制定者的合作,这项至关重要的工作仍在继续。"
根据 Ramp 的数据,Anthropic 的企业客户数量已超过 OpenAI
Anthropic 首次超越 OpenAI,成为经验证的商业客户最多的公司,这是金融科技公司 Ramp 本月发布的《AI 指数》所显示的结果。Ramp 客户支出数据显示,34.4% 的参与企业支付 Anthropic 服务费用,超过所有其他 AI 实验室,而 32.3% 的企业支付 OpenAI 费用。这标志着 Anthropic 首次占据领先地位。“Anthropic 已经在金融、科技、专业服务等高采用率群体中处于领先地位,”Ramp 经济学家 Ara Kharazian 告诉 Tech
随着当地人开始为数字服务付费,印度正从应用下载转向变现
印度曾是全球最大的应用下载中心,却一直难以实现盈利。随着用户越来越多地投资于人工智能、娱乐和高端数字服务,这一局面正在发生转变。据Sensor Tower数据显示,第二季度印度用户在移动应用上的消费额达到创纪录的3.45亿美元,同比增长35%。 这家数据分析公司指出,当前的增长主要由生成式人工智能、流媒体和生产力工具驱动,这反映出印度用户越来越愿意为数字订阅服务付费,而非仅依赖游戏。这一创纪录的季
OpenAI面临各州总检察长的调查
据报道,一群州总检察长已对OpenAI展开调查。据《华尔街日报》报道,该公司于上周五收到了纽约州总检察长发出的传票。该传票要求提供涉及多个方面的文件,包括广告做法、用户参与度和留存率、模型阿谀奉承现象、消费者和健康数据的处理,以及对未成年人和老年人的对待方式。TechCrunch 已联系 OpenAI 和纽约州总检察长办公室寻求置评。该公司一位发言人告诉《华尔街日报》,OpenAI 正配合此次调查
Wait, so we're debating if AI is a human right while people are saying it's messing with their heads? That's some serious irony right there. Maybe we should focus on making these tools actually safe before we declare them essential. Just a thought. 🤔
Also die FTC untersucht ChatGPT wegen psychischer Belastung? 😅 Interessant, wie die Firmen immer von 'Grundrecht' reden, während Nutzer echte Probleme haben. Vielleicht sollte man erstmal die bestehenden KI-Tools sicherer machen, bevor man so große Versprechungen macht. Finde es gut, dass da jetzt genauer hingeschaut wird!





首页






