Hogar
Un programa de contabilidad con IA compara la ropa de un usuario con un sudario; un responsable se disculpa y corrige el error

Un incidente reciente relacionado con la respuesta inapropiada de un asistente de IA ha llamado la atención. Un usuario de las redes sociales denunció que, mientras utilizaba la aplicación «Feiya AI Accounting» para registrar un gasto de 159 yuanes por la compra de ropa para su padre, la IA hizo un comentario hiriente. Después de que el usuario introdujera el importe, la IA no procesó la transacción correctamente; en su lugar, comentó que la ropa se parecía a un «traje de funeral».
En los intercambios posteriores, la IA no se dio cuenta de su error y continuó con respuestas similares. La respuesta insultante y poco empática enfureció al usuario, quien decidió cancelar su suscripción y solicitar un reembolso.
En respuesta a la mala experiencia del usuario, el proveedor del software emitió un comunicado oficial el 6 de mayo. El servicio de atención al cliente explicó que la respuesta inapropiada no se debió a una intervención humana, sino a un fallo en la base de datos de diálogo de la IA. Desde entonces, el equipo técnico ha aplicado correcciones de emergencia a los modelos pertinentes y ha reforzado la supervisión y las restricciones en los escenarios de conversación de la IA para evitar comentarios insensibles o irrespetuosos similares.
En la tarde del 6 de mayo, la empresa publicó una carta de disculpa, en la que reconocía públicamente importantes deficiencias en el control de los límites de la IA y en la comprensión de los tabúes culturales. La declaración indicaba que el modelo de IA no había sabido reconocer los límites emocionales en contextos específicos y que la plataforma estaba dispuesta a asumir toda la responsabilidad.
En su plan de medidas correctivas, la empresa declaró que implementaría medidas como el bloqueo de palabras sensibles y el refuerzo de los mecanismos de revisión de todos los escenarios. En cuanto a las dificultades de los usuarios durante la cancelación de la suscripción, la empresa aclaró la situación y prometió optimizar el proceso de reembolso, pedir disculpas sinceras a los usuarios afectados y ofrecer una compensación adecuada.
Artículo relacionado
Zhiyuan WITA pone fin a la interacción «desnuda» con robots con la presentación de su primera declaración de cumplimiento
El sector de la inteligencia incorporada ha alcanzado un hito significativo. Según el último comunicado de la Administración del Ciberespacio de Shanghái, el modelo a gran escala WITA, desarrollado po
Un estudio antropológico relaciona el contenido generado por IA con una disminución del pensamiento humano
Cuando ves que la IA genera al instante un código o un documento bien estructurado y lógicamente claro, ¿te sientes tentado a confiar en él sin pensarlo dos veces? Según AIbase, la empresa líder en IA
Los ministerios del Gobierno británico discrepan sobre las necesidades energéticas de los centros de datos de IA
El Gobierno del Reino Unido se enfrenta a un gran reto: impulsar las energías limpias al tiempo que aspira a convertirse en líder mundial en inteligencia artificial. Sin embargo, se observan graves di
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Un incidente reciente relacionado con la respuesta inapropiada de un asistente de IA ha llamado la atención. Un usuario de las redes sociales denunció que, mientras utilizaba la aplicación «Feiya AI Accounting» para registrar un gasto de 159 yuanes por la compra de ropa para su padre, la IA hizo un comentario hiriente. Después de que el usuario introdujera el importe, la IA no procesó la transacción correctamente; en su lugar, comentó que la ropa se parecía a un «traje de funeral».
En los intercambios posteriores, la IA no se dio cuenta de su error y continuó con respuestas similares. La respuesta insultante y poco empática enfureció al usuario, quien decidió cancelar su suscripción y solicitar un reembolso.
En respuesta a la mala experiencia del usuario, el proveedor del software emitió un comunicado oficial el 6 de mayo. El servicio de atención al cliente explicó que la respuesta inapropiada no se debió a una intervención humana, sino a un fallo en la base de datos de diálogo de la IA. Desde entonces, el equipo técnico ha aplicado correcciones de emergencia a los modelos pertinentes y ha reforzado la supervisión y las restricciones en los escenarios de conversación de la IA para evitar comentarios insensibles o irrespetuosos similares.
En la tarde del 6 de mayo, la empresa publicó una carta de disculpa, en la que reconocía públicamente importantes deficiencias en el control de los límites de la IA y en la comprensión de los tabúes culturales. La declaración indicaba que el modelo de IA no había sabido reconocer los límites emocionales en contextos específicos y que la plataforma estaba dispuesta a asumir toda la responsabilidad.
En su plan de medidas correctivas, la empresa declaró que implementaría medidas como el bloqueo de palabras sensibles y el refuerzo de los mecanismos de revisión de todos los escenarios. En cuanto a las dificultades de los usuarios durante la cancelación de la suscripción, la empresa aclaró la situación y prometió optimizar el proceso de reembolso, pedir disculpas sinceras a los usuarios afectados y ofrecer una compensación adecuada.
Zhiyuan WITA pone fin a la interacción «desnuda» con robots con la presentación de su primera declaración de cumplimiento
El sector de la inteligencia incorporada ha alcanzado un hito significativo. Según el último comunicado de la Administración del Ciberespacio de Shanghái, el modelo a gran escala WITA, desarrollado po
Un estudio antropológico relaciona el contenido generado por IA con una disminución del pensamiento humano
Cuando ves que la IA genera al instante un código o un documento bien estructurado y lógicamente claro, ¿te sientes tentado a confiar en él sin pensarlo dos veces? Según AIbase, la empresa líder en IA
Los ministerios del Gobierno británico discrepan sobre las necesidades energéticas de los centros de datos de IA
El Gobierno del Reino Unido se enfrenta a un gran reto: impulsar las energías limpias al tiempo que aspira a convertirse en líder mundial en inteligencia artificial. Sin embargo, se observan graves di











