AI会计软件将用户服装误认为寿衣;官方致歉并纠正问题

最近一起涉及AI助手不当回应的事件引发了关注。一位社交媒体用户反映,他在使用“飞亚AI记账”应用记录为父亲购买衣服的159元开支时,AI助手发表了一番伤人的言论。用户输入金额后,AI不仅未能正确处理交易,反而评论说这身衣服像“丧服”。
在随后的互动中,该AI未能意识到自己的错误,并继续做出类似回应。这种带有侮辱性且缺乏同理心的回复激怒了用户,他决定取消会员资格并申请退款。
针对此次糟糕的用户体验,软件供应商于5月6日发布官方声明。客服解释称,不当回复并非人为干预所致,而是AI对话数据库中的缺陷。技术团队已对相关模型实施紧急修复,并加强了对AI对话场景的监管和限制,以防止出现类似的不敏感或不尊重的言论。
5月6日下午,该公司发布致歉信,公开承认在把控AI边界及理解文化禁忌方面存在重大不足。声明称该AI模型未能在特定语境下识别情感边界,平台愿对此承担全部责任。
在整改方案中,该公司表示将采取屏蔽敏感词汇、强化全场景审核机制等措施。针对用户在取消会员资格时遇到的困难,公司已澄清情况,并承诺优化退款流程,向受影响用户诚挚致歉,并提供相应补偿。
相关文章
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
能否请您提供需要改写的文章标题?
过去,想要拍一张专业的头像照,意味着要聘请摄影师、租用摄影棚,并至少腾出一个小时的时间。如今,越来越多的AI驱动平台承诺,您可以省去所有这些步骤,依然能获得一张精致且可直接发布的照片。有些平台确实兑现了这一承诺,但更多则不然。一张物有所值的AI人像照与一场金钱浪费之间的区别,通常归结于一个问题:最终成像真的像你吗?分辨率、背景和处理速度固然重要,但如果屏幕上凝视着你的那个人只是个与你肤色相近的陌生
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
相关专题推荐
评论 (0)
0/500

最近一起涉及AI助手不当回应的事件引发了关注。一位社交媒体用户反映,他在使用“飞亚AI记账”应用记录为父亲购买衣服的159元开支时,AI助手发表了一番伤人的言论。用户输入金额后,AI不仅未能正确处理交易,反而评论说这身衣服像“丧服”。
在随后的互动中,该AI未能意识到自己的错误,并继续做出类似回应。这种带有侮辱性且缺乏同理心的回复激怒了用户,他决定取消会员资格并申请退款。
针对此次糟糕的用户体验,软件供应商于5月6日发布官方声明。客服解释称,不当回复并非人为干预所致,而是AI对话数据库中的缺陷。技术团队已对相关模型实施紧急修复,并加强了对AI对话场景的监管和限制,以防止出现类似的不敏感或不尊重的言论。
5月6日下午,该公司发布致歉信,公开承认在把控AI边界及理解文化禁忌方面存在重大不足。声明称该AI模型未能在特定语境下识别情感边界,平台愿对此承担全部责任。
在整改方案中,该公司表示将采取屏蔽敏感词汇、强化全场景审核机制等措施。针对用户在取消会员资格时遇到的困难,公司已澄清情况,并承诺优化退款流程,向受影响用户诚挚致歉,并提供相应补偿。
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
能否请您提供需要改写的文章标题?
过去,想要拍一张专业的头像照,意味着要聘请摄影师、租用摄影棚,并至少腾出一个小时的时间。如今,越来越多的AI驱动平台承诺,您可以省去所有这些步骤,依然能获得一张精致且可直接发布的照片。有些平台确实兑现了这一承诺,但更多则不然。一张物有所值的AI人像照与一场金钱浪费之间的区别,通常归结于一个问题:最终成像真的像你吗?分辨率、背景和处理速度固然重要,但如果屏幕上凝视着你的那个人只是个与你肤色相近的陌生
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam





首页






