Hogar
Un programa de contabilidad con IA compara la ropa de un usuario con un sudario; un responsable se disculpa y corrige el error

Un incidente reciente relacionado con la respuesta inapropiada de un asistente de IA ha llamado la atención. Un usuario de las redes sociales denunció que, mientras utilizaba la aplicación «Feiya AI Accounting» para registrar un gasto de 159 yuanes por la compra de ropa para su padre, la IA hizo un comentario hiriente. Después de que el usuario introdujera el importe, la IA no procesó la transacción correctamente; en su lugar, comentó que la ropa se parecía a un «traje de funeral».
En los intercambios posteriores, la IA no se dio cuenta de su error y continuó con respuestas similares. La respuesta insultante y poco empática enfureció al usuario, quien decidió cancelar su suscripción y solicitar un reembolso.
En respuesta a la mala experiencia del usuario, el proveedor del software emitió un comunicado oficial el 6 de mayo. El servicio de atención al cliente explicó que la respuesta inapropiada no se debió a una intervención humana, sino a un fallo en la base de datos de diálogo de la IA. Desde entonces, el equipo técnico ha aplicado correcciones de emergencia a los modelos pertinentes y ha reforzado la supervisión y las restricciones en los escenarios de conversación de la IA para evitar comentarios insensibles o irrespetuosos similares.
En la tarde del 6 de mayo, la empresa publicó una carta de disculpa, en la que reconocía públicamente importantes deficiencias en el control de los límites de la IA y en la comprensión de los tabúes culturales. La declaración indicaba que el modelo de IA no había sabido reconocer los límites emocionales en contextos específicos y que la plataforma estaba dispuesta a asumir toda la responsabilidad.
En su plan de medidas correctivas, la empresa declaró que implementaría medidas como el bloqueo de palabras sensibles y el refuerzo de los mecanismos de revisión de todos los escenarios. En cuanto a las dificultades de los usuarios durante la cancelación de la suscripción, la empresa aclaró la situación y prometió optimizar el proceso de reembolso, pedir disculpas sinceras a los usuarios afectados y ofrecer una compensación adecuada.
Artículo relacionado
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en
Cumplimiento de la normativa sobre vehículos autónomos en California: una nueva era de multas, geovallas y 1 millón de millas
Guident opera un servicio de transporte de AuveTech en el sur de Florida, gestionando una ruta de cuatro millas en West Palm Beach y otra de una milla en Boca Ratón mediante su tecnología de monitoriz
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Un incidente reciente relacionado con la respuesta inapropiada de un asistente de IA ha llamado la atención. Un usuario de las redes sociales denunció que, mientras utilizaba la aplicación «Feiya AI Accounting» para registrar un gasto de 159 yuanes por la compra de ropa para su padre, la IA hizo un comentario hiriente. Después de que el usuario introdujera el importe, la IA no procesó la transacción correctamente; en su lugar, comentó que la ropa se parecía a un «traje de funeral».
En los intercambios posteriores, la IA no se dio cuenta de su error y continuó con respuestas similares. La respuesta insultante y poco empática enfureció al usuario, quien decidió cancelar su suscripción y solicitar un reembolso.
En respuesta a la mala experiencia del usuario, el proveedor del software emitió un comunicado oficial el 6 de mayo. El servicio de atención al cliente explicó que la respuesta inapropiada no se debió a una intervención humana, sino a un fallo en la base de datos de diálogo de la IA. Desde entonces, el equipo técnico ha aplicado correcciones de emergencia a los modelos pertinentes y ha reforzado la supervisión y las restricciones en los escenarios de conversación de la IA para evitar comentarios insensibles o irrespetuosos similares.
En la tarde del 6 de mayo, la empresa publicó una carta de disculpa, en la que reconocía públicamente importantes deficiencias en el control de los límites de la IA y en la comprensión de los tabúes culturales. La declaración indicaba que el modelo de IA no había sabido reconocer los límites emocionales en contextos específicos y que la plataforma estaba dispuesta a asumir toda la responsabilidad.
En su plan de medidas correctivas, la empresa declaró que implementaría medidas como el bloqueo de palabras sensibles y el refuerzo de los mecanismos de revisión de todos los escenarios. En cuanto a las dificultades de los usuarios durante la cancelación de la suscripción, la empresa aclaró la situación y prometió optimizar el proceso de reembolso, pedir disculpas sinceras a los usuarios afectados y ofrecer una compensación adecuada.
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en











