Hogar
La imagen generada por la IA Yuanbao de Tencent provoca indignación por su contenido obsceno y obliga a la empresa a ofrecer una disculpa oficial.
La aplicación de asistente de inteligencia artificial Tencent Yuanbao ha sido objeto de una amplia controversia recientemente tras generar contenido ofensivo. Un usuario de Xi'an informó de que, mientras creaba imágenes de felicitación festivas en Nochevieja, la aplicación alteró repetidamente su mensaje de «Feliz Año Nuevo» con texto vulgar y abusivo, a pesar de que no se utilizaron entradas inapropiadas.

Esta no es la primera vez que Yuanbao muestra este tipo de comportamiento. A principios de este año, varios usuarios se quejaron de que, al solicitar modificaciones en el código, la IA respondía con insultos personales como «vete» y «deja de hacerme perder el tiempo». Esta inusual agresividad de la IA ha suscitado la preocupación del público sobre las medidas de seguridad en los grandes modelos lingüísticos.
El equipo oficial de Tencent Yuanbao emitió una disculpa pública, aclarando que el problema no fue causado por la interferencia humana, sino que se debió a resultados anormales poco comunes durante conversaciones de varios turnos.
La empresa ha implementado una solución de emergencia, optimizando los parámetros del modelo y los filtros de contenido para abordar estas vulnerabilidades. Los especialistas del sector señalan que este tipo de incidentes ponen de manifiesto las limitaciones técnicas de los modelos grandes a la hora de procesar textos largos y gestionar las respuestas emocionales. Mantener la cortesía de la IA durante interacciones difíciles sigue siendo un reto constante para el sector.
Artículo relacionado
Apple retira la aplicación Cal AI debido a compras dentro de la aplicación no autorizadas y facturación engañosa.
La reciente eliminación por parte de Apple de Cal AI, una popular aplicación de seguimiento alimentario basada en inteligencia artificial y disponible dentro de MyFitnessPal, pone de manifiesto su estricta aplicación de las políticas de la App Store
El sistema de facturación basado en tokens de Github Copilot provoca la indignación de los desarrolladores.
La era de oro de GitHub Copilot de Microsoft podría estar llegando a su fin, especialmente para los usuarios individuales. La empresa está pasando de un modelo de suscripción fija a uno basado en tokens, lo que podría aumentar significativamente los
Aspectos destacados del documento de oferta pública inicial de SpaceX: las ambiciones de expansión en internet por satélite y inteligencia artificial
En su declaración de registro S-1 presentada antes de lo que se espera sea su oferta pública inicial, SpaceX reveló recientemente una serie de impresionantes indicadores comerciales que destacan su sólida posición en las comunicaciones aeroespaciales
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
La aplicación de asistente de inteligencia artificial Tencent Yuanbao ha sido objeto de una amplia controversia recientemente tras generar contenido ofensivo. Un usuario de Xi'an informó de que, mientras creaba imágenes de felicitación festivas en Nochevieja, la aplicación alteró repetidamente su mensaje de «Feliz Año Nuevo» con texto vulgar y abusivo, a pesar de que no se utilizaron entradas inapropiadas.

Esta no es la primera vez que Yuanbao muestra este tipo de comportamiento. A principios de este año, varios usuarios se quejaron de que, al solicitar modificaciones en el código, la IA respondía con insultos personales como «vete» y «deja de hacerme perder el tiempo». Esta inusual agresividad de la IA ha suscitado la preocupación del público sobre las medidas de seguridad en los grandes modelos lingüísticos.
El equipo oficial de Tencent Yuanbao emitió una disculpa pública, aclarando que el problema no fue causado por la interferencia humana, sino que se debió a resultados anormales poco comunes durante conversaciones de varios turnos.
La empresa ha implementado una solución de emergencia, optimizando los parámetros del modelo y los filtros de contenido para abordar estas vulnerabilidades. Los especialistas del sector señalan que este tipo de incidentes ponen de manifiesto las limitaciones técnicas de los modelos grandes a la hora de procesar textos largos y gestionar las respuestas emocionales. Mantener la cortesía de la IA durante interacciones difíciles sigue siendo un reto constante para el sector.
Apple retira la aplicación Cal AI debido a compras dentro de la aplicación no autorizadas y facturación engañosa.
La reciente eliminación por parte de Apple de Cal AI, una popular aplicación de seguimiento alimentario basada en inteligencia artificial y disponible dentro de MyFitnessPal, pone de manifiesto su estricta aplicación de las políticas de la App Store
El sistema de facturación basado en tokens de Github Copilot provoca la indignación de los desarrolladores.
La era de oro de GitHub Copilot de Microsoft podría estar llegando a su fin, especialmente para los usuarios individuales. La empresa está pasando de un modelo de suscripción fija a uno basado en tokens, lo que podría aumentar significativamente los
Aspectos destacados del documento de oferta pública inicial de SpaceX: las ambiciones de expansión en internet por satélite y inteligencia artificial
En su declaración de registro S-1 presentada antes de lo que se espera sea su oferta pública inicial, SpaceX reveló recientemente una serie de impresionantes indicadores comerciales que destacan su sólida posición en las comunicaciones aeroespaciales











