Lar
Software de contabilidade com IA compara roupas do usuário a um sudário; representante oficial pede desculpas e corrige o erro

Um incidente recente envolvendo uma resposta inadequada de um assistente de IA chamou a atenção. Um usuário nas redes sociais relatou que, ao usar o aplicativo “Feiya AI Accounting” para registrar uma despesa de 159 yuans pela compra de roupas para seu pai, a IA fez um comentário ofensivo. Depois que o usuário inseriu o valor, a IA não processou a transação corretamente; em vez disso, comentou que as roupas pareciam um “traje de funeral”.
Nas trocas de mensagens seguintes, a IA não percebeu seu erro e continuou com respostas semelhantes. A resposta ofensiva e sem empatia irritou o usuário, que decidiu cancelar sua assinatura e solicitar um reembolso.
Em resposta à experiência negativa do usuário, a empresa de software divulgou um comunicado oficial em 6 de maio. O atendimento ao cliente explicou que a resposta inadequada não se deveu a intervenção humana, mas a uma falha no banco de dados de diálogos da IA. Desde então, a equipe técnica aplicou correções de emergência aos modelos relevantes e reforçou a supervisão e as restrições aos cenários de conversação da IA para evitar comentários insensíveis ou desrespeitosos semelhantes.
Na tarde de 6 de maio, a empresa divulgou uma carta de desculpas, reconhecendo publicamente falhas significativas no controle dos limites da IA e na compreensão de tabus culturais. O comunicado afirmou que o modelo de IA não conseguiu reconhecer limites emocionais em contextos específicos e que a plataforma está disposta a assumir total responsabilidade.
Em seu plano de correção, a empresa declarou que implementaria medidas como o bloqueio de palavras sensíveis e o fortalecimento de mecanismos de revisão de cenários completos. Em relação às dificuldades dos usuários durante o cancelamento da assinatura, a empresa esclareceu a situação e prometeu otimizar o processo de reembolso, pedir desculpas sinceras aos usuários afetados e oferecer uma compensação adequada.
Artigo relacionado
A Zhiyuan WITA encerra a interação com o robô “nu” com o primeiro pedido de conformidade
O setor de inteligência incorporada atingiu um marco significativo. De acordo com o último comunicado da Administração do Ciberespaço de Xangai, o modelo de grande porte WITA, desenvolvido pela Zhiyua
Estudo da Anthropic associa conteúdo de IA bem elaborado à redução do raciocínio humano
Quando você vê a IA produzir instantaneamente um código ou documento bem estruturado e logicamente claro, você fica tentado a confiar nela sem pensar duas vezes? De acordo com a AIbase, a Anthropic, e
Departamentos do governo britânico entram em conflito sobre as necessidades energéticas dos centros de dados de IA
O governo do Reino Unido enfrenta um grande desafio: promover a energia limpa e, ao mesmo tempo, aspirar a se tornar líder global em inteligência artificial. No entanto, observam-se sérias inconsistên
Recomendações de tópicos especiais relacionados
Comentários (0)

Um incidente recente envolvendo uma resposta inadequada de um assistente de IA chamou a atenção. Um usuário nas redes sociais relatou que, ao usar o aplicativo “Feiya AI Accounting” para registrar uma despesa de 159 yuans pela compra de roupas para seu pai, a IA fez um comentário ofensivo. Depois que o usuário inseriu o valor, a IA não processou a transação corretamente; em vez disso, comentou que as roupas pareciam um “traje de funeral”.
Nas trocas de mensagens seguintes, a IA não percebeu seu erro e continuou com respostas semelhantes. A resposta ofensiva e sem empatia irritou o usuário, que decidiu cancelar sua assinatura e solicitar um reembolso.
Em resposta à experiência negativa do usuário, a empresa de software divulgou um comunicado oficial em 6 de maio. O atendimento ao cliente explicou que a resposta inadequada não se deveu a intervenção humana, mas a uma falha no banco de dados de diálogos da IA. Desde então, a equipe técnica aplicou correções de emergência aos modelos relevantes e reforçou a supervisão e as restrições aos cenários de conversação da IA para evitar comentários insensíveis ou desrespeitosos semelhantes.
Na tarde de 6 de maio, a empresa divulgou uma carta de desculpas, reconhecendo publicamente falhas significativas no controle dos limites da IA e na compreensão de tabus culturais. O comunicado afirmou que o modelo de IA não conseguiu reconhecer limites emocionais em contextos específicos e que a plataforma está disposta a assumir total responsabilidade.
Em seu plano de correção, a empresa declarou que implementaria medidas como o bloqueio de palavras sensíveis e o fortalecimento de mecanismos de revisão de cenários completos. Em relação às dificuldades dos usuários durante o cancelamento da assinatura, a empresa esclareceu a situação e prometeu otimizar o processo de reembolso, pedir desculpas sinceras aos usuários afetados e oferecer uma compensação adequada.
A Zhiyuan WITA encerra a interação com o robô “nu” com o primeiro pedido de conformidade
O setor de inteligência incorporada atingiu um marco significativo. De acordo com o último comunicado da Administração do Ciberespaço de Xangai, o modelo de grande porte WITA, desenvolvido pela Zhiyua
Estudo da Anthropic associa conteúdo de IA bem elaborado à redução do raciocínio humano
Quando você vê a IA produzir instantaneamente um código ou documento bem estruturado e logicamente claro, você fica tentado a confiar nela sem pensar duas vezes? De acordo com a AIbase, a Anthropic, e
Departamentos do governo britânico entram em conflito sobre as necessidades energéticas dos centros de dados de IA
O governo do Reino Unido enfrenta um grande desafio: promover a energia limpa e, ao mesmo tempo, aspirar a se tornar líder global em inteligência artificial. No entanto, observam-se sérias inconsistên











