AI 會計軟體將用戶的衣服誤判為裹屍布;官方致歉並修正問題

最近一起涉及 AI 助理不當回應的事件引起了關注。一名社群媒體用戶表示,他在使用「飛雅 AI 會計」應用程式記錄為父親購買衣服的 159 元開銷時,AI 竟發表了傷人的言論。該用戶輸入金額後,AI 非但未能正確處理交易,反而評論說這身衣服看起來像「喪服」。
在隨後的互動中,該AI未能察覺自身錯誤,並持續做出類似回應。這番帶有侮辱性且缺乏同理心的回覆激怒了該用戶,他決定取消會員資格並申請退款。
針對此次糟糕的使用者體驗,軟體供應商於5月6日發布官方聲明。客服解釋,該不當回應並非人為干預所致,而是AI對話資料庫的缺陷所致。技術團隊已對相關模型進行緊急修復,並加強對AI對話情境的監管與限制,以防止類似缺乏敏感度或不尊重的言論再次發生。
5月6日下午,該公司發布道歉信,公開承認在管控AI行為邊界及理解文化禁忌方面存在重大缺失。聲明指出,該AI模型未能在特定情境中辨識情感界限,平台願意承擔全部責任。
在整改方案中,該公司表示將實施包括屏蔽敏感詞彙、強化全場景審核機制等措施。針對用戶在取消會員資格時遇到的困難,公司已釐清情況,並承諾優化退款流程、向受影響用戶誠摯致歉,並提供適當補償。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (0)
0/500

最近一起涉及 AI 助理不當回應的事件引起了關注。一名社群媒體用戶表示,他在使用「飛雅 AI 會計」應用程式記錄為父親購買衣服的 159 元開銷時,AI 竟發表了傷人的言論。該用戶輸入金額後,AI 非但未能正確處理交易,反而評論說這身衣服看起來像「喪服」。
在隨後的互動中,該AI未能察覺自身錯誤,並持續做出類似回應。這番帶有侮辱性且缺乏同理心的回覆激怒了該用戶,他決定取消會員資格並申請退款。
針對此次糟糕的使用者體驗,軟體供應商於5月6日發布官方聲明。客服解釋,該不當回應並非人為干預所致,而是AI對話資料庫的缺陷所致。技術團隊已對相關模型進行緊急修復,並加強對AI對話情境的監管與限制,以防止類似缺乏敏感度或不尊重的言論再次發生。
5月6日下午,該公司發布道歉信,公開承認在管控AI行為邊界及理解文化禁忌方面存在重大缺失。聲明指出,該AI模型未能在特定情境中辨識情感界限,平台願意承擔全部責任。
在整改方案中,該公司表示將實施包括屏蔽敏感詞彙、強化全場景審核機制等措施。針對用戶在取消會員資格時遇到的困難,公司已釐清情況,並承諾優化退款流程、向受影響用戶誠摯致歉,並提供適當補償。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






