Maison
Un logiciel de comptabilité basé sur l'IA compare les vêtements d'un utilisateur à un linceul ; un responsable présente ses excuses et corrige le problème

Un incident récent impliquant la réponse inappropriée d'un assistant IA a fait grand bruit. Un utilisateur a rapporté sur les réseaux sociaux que, alors qu'il utilisait l'application « Feiya AI Accounting » pour enregistrer une dépense de 159 yuans liée à l'achat de vêtements pour son père, l'IA lui avait adressé un commentaire blessant. Après que l'utilisateur eut saisi le montant, l'IA n'a pas traité la transaction correctement ; elle a au contraire fait remarquer que les vêtements ressemblaient à un « costume de funérailles ».
Au cours des échanges qui ont suivi, l'IA n'a pas pris conscience de son erreur et a continué à donner des réponses similaires. Cette réponse insultante et dépourvue d'empathie a mis l'utilisateur en colère, qui a décidé de résilier son abonnement et de demander un remboursement.
En réponse à cette mauvaise expérience utilisateur, le fournisseur du logiciel a publié une déclaration officielle le 6 mai. Le service client a expliqué que cette réponse inappropriée n’était pas due à une intervention humaine, mais à une faille dans la base de données de dialogue de l’IA. L’équipe technique a depuis appliqué des correctifs d’urgence aux modèles concernés et renforcé la surveillance et les restrictions sur les scénarios de conversation de l’IA afin d’éviter des remarques similaires, jugées insensibles ou irrespectueuses.
Dans l'après-midi du 6 mai, l'entreprise a publié une lettre d'excuses, reconnaissant publiquement d'importantes lacunes dans le contrôle des limites de l'IA et la compréhension des tabous culturels. La déclaration indiquait que le modèle d'IA n'avait pas su reconnaître les limites émotionnelles dans des contextes spécifiques et que la plateforme était prête à en assumer l'entière responsabilité.
Dans son plan de remédiation, l'entreprise a déclaré qu'elle mettrait en œuvre des mesures telles que le blocage de mots sensibles et le renforcement des mécanismes de révision de l'ensemble des scénarios. Concernant les difficultés rencontrées par les utilisateurs lors de la résiliation de leur abonnement, l'entreprise a clarifié la situation et s'est engagée à optimiser le processus de remboursement, à présenter ses excuses sincères aux utilisateurs concernés et à leur offrir une compensation appropriée.
Article connexe
Les lunettes intelligentes d’Apple pourraient être présentées lors de la WWDC27, mettant en avant la protection de la vie privée
Mark Gurman de Bloomberg rapporte que les lunettes intelligentes d’Apple, codifiées N50, sont prévues pour une présentation lors de la WWDC27 en juin 2027, avec un lancement commercial attendu à l’automne 2027. Initialement destinées à la fin de cett
À l’intérieur des détails révélés sur le prochain Gemini : une puissance de calcul mise à rude épreuve, des équipes internes en désaccord sur les priorités de développement et l’allocation des ressources
Les rapports indiquent que le lancement du modèle Gemini de nouvelle génération, tant attendu par Google, a été repoussé. Des désaccords internes concernant les priorités de développement et l'allocation des ressources, combinés à une capacité de cal
OpenAI rejette les inquiétudes concernant un ralentissement de la croissance, affirmant que plusieurs unités commerciales accélèrent
En réponse aux critiques externes concernant la décélération de la croissance des ventes et le non-respect des objectifs internes, le leader de l'IA, OpenAI, a publié une déclaration rassurante le mardi 28 avril. L'entreprise a précisé que ses produi
Recommandations de sujets spéciaux liés
commentaires (0)

Un incident récent impliquant la réponse inappropriée d'un assistant IA a fait grand bruit. Un utilisateur a rapporté sur les réseaux sociaux que, alors qu'il utilisait l'application « Feiya AI Accounting » pour enregistrer une dépense de 159 yuans liée à l'achat de vêtements pour son père, l'IA lui avait adressé un commentaire blessant. Après que l'utilisateur eut saisi le montant, l'IA n'a pas traité la transaction correctement ; elle a au contraire fait remarquer que les vêtements ressemblaient à un « costume de funérailles ».
Au cours des échanges qui ont suivi, l'IA n'a pas pris conscience de son erreur et a continué à donner des réponses similaires. Cette réponse insultante et dépourvue d'empathie a mis l'utilisateur en colère, qui a décidé de résilier son abonnement et de demander un remboursement.
En réponse à cette mauvaise expérience utilisateur, le fournisseur du logiciel a publié une déclaration officielle le 6 mai. Le service client a expliqué que cette réponse inappropriée n’était pas due à une intervention humaine, mais à une faille dans la base de données de dialogue de l’IA. L’équipe technique a depuis appliqué des correctifs d’urgence aux modèles concernés et renforcé la surveillance et les restrictions sur les scénarios de conversation de l’IA afin d’éviter des remarques similaires, jugées insensibles ou irrespectueuses.
Dans l'après-midi du 6 mai, l'entreprise a publié une lettre d'excuses, reconnaissant publiquement d'importantes lacunes dans le contrôle des limites de l'IA et la compréhension des tabous culturels. La déclaration indiquait que le modèle d'IA n'avait pas su reconnaître les limites émotionnelles dans des contextes spécifiques et que la plateforme était prête à en assumer l'entière responsabilité.
Dans son plan de remédiation, l'entreprise a déclaré qu'elle mettrait en œuvre des mesures telles que le blocage de mots sensibles et le renforcement des mécanismes de révision de l'ensemble des scénarios. Concernant les difficultés rencontrées par les utilisateurs lors de la résiliation de leur abonnement, l'entreprise a clarifié la situation et s'est engagée à optimiser le processus de remboursement, à présenter ses excuses sincères aux utilisateurs concernés et à leur offrir une compensation appropriée.
Les lunettes intelligentes d’Apple pourraient être présentées lors de la WWDC27, mettant en avant la protection de la vie privée
Mark Gurman de Bloomberg rapporte que les lunettes intelligentes d’Apple, codifiées N50, sont prévues pour une présentation lors de la WWDC27 en juin 2027, avec un lancement commercial attendu à l’automne 2027. Initialement destinées à la fin de cett
À l’intérieur des détails révélés sur le prochain Gemini : une puissance de calcul mise à rude épreuve, des équipes internes en désaccord sur les priorités de développement et l’allocation des ressources
Les rapports indiquent que le lancement du modèle Gemini de nouvelle génération, tant attendu par Google, a été repoussé. Des désaccords internes concernant les priorités de développement et l'allocation des ressources, combinés à une capacité de cal
OpenAI rejette les inquiétudes concernant un ralentissement de la croissance, affirmant que plusieurs unités commerciales accélèrent
En réponse aux critiques externes concernant la décélération de la croissance des ventes et le non-respect des objectifs internes, le leader de l'IA, OpenAI, a publié une déclaration rassurante le mardi 28 avril. L'entreprise a précisé que ses produi











