AI 會計軟體將用戶的衣服誤判為裹屍布;官方致歉並修正問題

最近一起涉及 AI 助理不當回應的事件引起了關注。一名社群媒體用戶表示,他在使用「飛雅 AI 會計」應用程式記錄為父親購買衣服的 159 元開銷時,AI 竟發表了傷人的言論。該用戶輸入金額後,AI 非但未能正確處理交易,反而評論說這身衣服看起來像「喪服」。
在隨後的互動中,該AI未能察覺自身錯誤,並持續做出類似回應。這番帶有侮辱性且缺乏同理心的回覆激怒了該用戶,他決定取消會員資格並申請退款。
針對此次糟糕的使用者體驗,軟體供應商於5月6日發布官方聲明。客服解釋,該不當回應並非人為干預所致,而是AI對話資料庫的缺陷所致。技術團隊已對相關模型進行緊急修復,並加強對AI對話情境的監管與限制,以防止類似缺乏敏感度或不尊重的言論再次發生。
5月6日下午,該公司發布道歉信,公開承認在管控AI行為邊界及理解文化禁忌方面存在重大缺失。聲明指出,該AI模型未能在特定情境中辨識情感界限,平台願意承擔全部責任。
在整改方案中,該公司表示將實施包括屏蔽敏感詞彙、強化全場景審核機制等措施。針對用戶在取消會員資格時遇到的困難,公司已釐清情況,並承諾優化退款流程、向受影響用戶誠摯致歉,並提供適當補償。
相關文章
免費開源 AI 國際象棋引擎 Maia 3 正式發布,旨在提升人類的棋藝表現
Maia Chess 團隊已發布一款新的開源國際象棋引擎「Maia 3」,該引擎是透過 2.5 億盤真實人類對弈數據進行訓練的。其 Elo 評分約為 1800,比前一版本高出近 300 分。 最棒的是,它完全免費且開源,支援本地部署,這代表著讓 AI 國際象棋引擎普及大眾邁出了重要一步。獨特方法:模擬人類決策過程與 AlphaZero 和 Stockfish 等頂尖引擎不同,後者旨在追求 Elo
人工智慧創投熱潮推動單季營收突破一兆元,掀起新一波創新浪潮
全球人工智慧領域的風險投資正呈現激增態勢。今年第一季,近600輪與人工智慧相關的融資案完成,總金額超過1,100億元人民幣,較去年同期增長185.4%。主要資金集中於三大關鍵領域5月,國內領先的大型模型公司如Moonshot和Step Star取得進一步進展,募資超過300億元。與此同時,具身智能領域也吸引了大量投資,新興企業VITA Dynamics和Luming Robotics在短短一週內各
OpenAI 停用 o3 和 GPT-4.5 大型模型
作為人工智慧領域的領頭羊,OpenAI 的每項技術舉措都會在業界掀起巨大波瀾。近日,該公司發布了一項重大聲明:將從其 ChatGPT 平台退役兩款經典模型——o3 和 GPT-4.5。 常被稱為「人文天才」的 GPT-4.5 將於 6 月 27 日下線,而以強大推理能力著稱的 o3 則將於 8 月 26 日隨之退役。經典模型的退役引發懷舊之情這則突如其來的消息讓許多付費長期用戶難以接受,社群平台與
相關專題推薦
評論 (0)
0/500

最近一起涉及 AI 助理不當回應的事件引起了關注。一名社群媒體用戶表示,他在使用「飛雅 AI 會計」應用程式記錄為父親購買衣服的 159 元開銷時,AI 竟發表了傷人的言論。該用戶輸入金額後,AI 非但未能正確處理交易,反而評論說這身衣服看起來像「喪服」。
在隨後的互動中,該AI未能察覺自身錯誤,並持續做出類似回應。這番帶有侮辱性且缺乏同理心的回覆激怒了該用戶,他決定取消會員資格並申請退款。
針對此次糟糕的使用者體驗,軟體供應商於5月6日發布官方聲明。客服解釋,該不當回應並非人為干預所致,而是AI對話資料庫的缺陷所致。技術團隊已對相關模型進行緊急修復,並加強對AI對話情境的監管與限制,以防止類似缺乏敏感度或不尊重的言論再次發生。
5月6日下午,該公司發布道歉信,公開承認在管控AI行為邊界及理解文化禁忌方面存在重大缺失。聲明指出,該AI模型未能在特定情境中辨識情感界限,平台願意承擔全部責任。
在整改方案中,該公司表示將實施包括屏蔽敏感詞彙、強化全場景審核機制等措施。針對用戶在取消會員資格時遇到的困難,公司已釐清情況,並承諾優化退款流程、向受影響用戶誠摯致歉,並提供適當補償。
人工智慧創投熱潮推動單季營收突破一兆元,掀起新一波創新浪潮
全球人工智慧領域的風險投資正呈現激增態勢。今年第一季,近600輪與人工智慧相關的融資案完成,總金額超過1,100億元人民幣,較去年同期增長185.4%。主要資金集中於三大關鍵領域5月,國內領先的大型模型公司如Moonshot和Step Star取得進一步進展,募資超過300億元。與此同時,具身智能領域也吸引了大量投資,新興企業VITA Dynamics和Luming Robotics在短短一週內各
OpenAI 停用 o3 和 GPT-4.5 大型模型
作為人工智慧領域的領頭羊,OpenAI 的每項技術舉措都會在業界掀起巨大波瀾。近日,該公司發布了一項重大聲明:將從其 ChatGPT 平台退役兩款經典模型——o3 和 GPT-4.5。 常被稱為「人文天才」的 GPT-4.5 將於 6 月 27 日下線,而以強大推理能力著稱的 o3 則將於 8 月 26 日隨之退役。經典模型的退役引發懷舊之情這則突如其來的消息讓許多付費長期用戶難以接受,社群平台與





首頁






