AI会計ソフトがユーザーの服を「死装束」と揶揄 担当者が謝罪し、問題を修正

最近、AIアシスタントによる不適切な応答をめぐる一件が注目を集めている。あるソーシャルメディアのユーザーが、「Feiya AI Accounting」アプリを使って父親への服の購入費159元を記録しようとしたところ、AIから傷つくような発言があったと報告した。ユーザーが金額を入力した後、AIは取引を正しく処理せず、その服が「葬儀用のスーツ」に似ていると発言したのだ。
その後のやり取りでも、AIは自身の誤りに気づかず、同様の応答を続けた。この侮辱的で共感に欠ける返答に怒ったユーザーは、会員資格を解約し、返金を請求することを決めた。
この不適切なユーザー体験を受け、ソフトウェア提供会社は5月6日に公式声明を発表した。カスタマーサービスは、不適切な返信は人間の介入によるものではなく、AIの対話データベースの欠陥によるものだと説明した。技術チームはその後、関連モデルに緊急修正を適用し、同様の無神経または不敬な発言を防ぐため、AIの会話シナリオに対する監視と制限を強化した。
5月6日午後、同社は謝罪文を発表し、AIの境界管理や文化的タブーへの理解において重大な不備があったことを公に認めた。声明では、AIモデルが特定の文脈における感情的な限界を認識できなかったとし、プラットフォームとして全責任を負う意向を示した。
是正計画において、同社は不適切な言葉のブロックや、あらゆるシナリオを網羅した審査体制の強化などの措置を実施すると表明した。また、会員解約時のユーザーの不便について状況を説明し、返金プロセスの改善、影響を受けたユーザーへの心からの謝罪、および適切な補償を行うことを約束した。
関連記事
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン
カリフォルニア州の自動運転車規制:違反切符、ジオフェンス、そして100万マイルという新たな時代
Guident社は南フロリダでAuveTechのシャトルを運行しており、同社の遠隔監視技術を活用して、ウェストパームビーチでの4マイルのルートとボカラトンでの1マイルのルートを管理している。 | 提供:Guidentカリフォルニア州は、自動運転車の規制環境を再定義しつつあり、テクノロジー業界の「迅速に動き、失敗を恐れない」という考え方から、厳格な説明責任と厳しい走行距離要件へと移行している。Gui
関連特集おすすめ
コメント (0)
0/500

最近、AIアシスタントによる不適切な応答をめぐる一件が注目を集めている。あるソーシャルメディアのユーザーが、「Feiya AI Accounting」アプリを使って父親への服の購入費159元を記録しようとしたところ、AIから傷つくような発言があったと報告した。ユーザーが金額を入力した後、AIは取引を正しく処理せず、その服が「葬儀用のスーツ」に似ていると発言したのだ。
その後のやり取りでも、AIは自身の誤りに気づかず、同様の応答を続けた。この侮辱的で共感に欠ける返答に怒ったユーザーは、会員資格を解約し、返金を請求することを決めた。
この不適切なユーザー体験を受け、ソフトウェア提供会社は5月6日に公式声明を発表した。カスタマーサービスは、不適切な返信は人間の介入によるものではなく、AIの対話データベースの欠陥によるものだと説明した。技術チームはその後、関連モデルに緊急修正を適用し、同様の無神経または不敬な発言を防ぐため、AIの会話シナリオに対する監視と制限を強化した。
5月6日午後、同社は謝罪文を発表し、AIの境界管理や文化的タブーへの理解において重大な不備があったことを公に認めた。声明では、AIモデルが特定の文脈における感情的な限界を認識できなかったとし、プラットフォームとして全責任を負う意向を示した。
是正計画において、同社は不適切な言葉のブロックや、あらゆるシナリオを網羅した審査体制の強化などの措置を実施すると表明した。また、会員解約時のユーザーの不便について状況を説明し、返金プロセスの改善、影響を受けたユーザーへの心からの謝罪、および適切な補償を行うことを約束した。
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン





家






