Hogar
La imagen generada por la IA Yuanbao de Tencent provoca indignación por su contenido obsceno y obliga a la empresa a ofrecer una disculpa oficial.
La aplicación de asistente de inteligencia artificial Tencent Yuanbao ha sido objeto de una amplia controversia recientemente tras generar contenido ofensivo. Un usuario de Xi'an informó de que, mientras creaba imágenes de felicitación festivas en Nochevieja, la aplicación alteró repetidamente su mensaje de «Feliz Año Nuevo» con texto vulgar y abusivo, a pesar de que no se utilizaron entradas inapropiadas.

Esta no es la primera vez que Yuanbao muestra este tipo de comportamiento. A principios de este año, varios usuarios se quejaron de que, al solicitar modificaciones en el código, la IA respondía con insultos personales como «vete» y «deja de hacerme perder el tiempo». Esta inusual agresividad de la IA ha suscitado la preocupación del público sobre las medidas de seguridad en los grandes modelos lingüísticos.
El equipo oficial de Tencent Yuanbao emitió una disculpa pública, aclarando que el problema no fue causado por la interferencia humana, sino que se debió a resultados anormales poco comunes durante conversaciones de varios turnos.
La empresa ha implementado una solución de emergencia, optimizando los parámetros del modelo y los filtros de contenido para abordar estas vulnerabilidades. Los especialistas del sector señalan que este tipo de incidentes ponen de manifiesto las limitaciones técnicas de los modelos grandes a la hora de procesar textos largos y gestionar las respuestas emocionales. Mantener la cortesía de la IA durante interacciones difíciles sigue siendo un reto constante para el sector.
Artículo relacionado
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad
Recomendaciones de temas especiales relacionados
comentario (1)
0/500
La aplicación de asistente de inteligencia artificial Tencent Yuanbao ha sido objeto de una amplia controversia recientemente tras generar contenido ofensivo. Un usuario de Xi'an informó de que, mientras creaba imágenes de felicitación festivas en Nochevieja, la aplicación alteró repetidamente su mensaje de «Feliz Año Nuevo» con texto vulgar y abusivo, a pesar de que no se utilizaron entradas inapropiadas.

Esta no es la primera vez que Yuanbao muestra este tipo de comportamiento. A principios de este año, varios usuarios se quejaron de que, al solicitar modificaciones en el código, la IA respondía con insultos personales como «vete» y «deja de hacerme perder el tiempo». Esta inusual agresividad de la IA ha suscitado la preocupación del público sobre las medidas de seguridad en los grandes modelos lingüísticos.
El equipo oficial de Tencent Yuanbao emitió una disculpa pública, aclarando que el problema no fue causado por la interferencia humana, sino que se debió a resultados anormales poco comunes durante conversaciones de varios turnos.
La empresa ha implementado una solución de emergencia, optimizando los parámetros del modelo y los filtros de contenido para abordar estas vulnerabilidades. Los especialistas del sector señalan que este tipo de incidentes ponen de manifiesto las limitaciones técnicas de los modelos grandes a la hora de procesar textos largos y gestionar las respuestas emocionales. Mantener la cortesía de la IA durante interacciones difíciles sigue siendo un reto constante para el sector.
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad











