Lar
Imagem gerada pela IA da Tencent Yuanbao causa indignação com palavrões, levando a um pedido de desculpas oficial
O aplicativo assistente de IA Tencent Yuanbao enfrentou recentemente uma controvérsia generalizada após gerar conteúdo ofensivo. Um usuário de Xi'an relatou que, enquanto criava imagens comemorativas na véspera de Ano Novo, o aplicativo alterou repetidamente sua mensagem de “Feliz Ano Novo” para um texto vulgar e abusivo, apesar de não terem sido usados inputs inadequados.

Esta não é a primeira vez que o Yuanbao exibe tal comportamento. No início deste ano, vários usuários reclamaram que, ao solicitar modificações de código, a IA respondeu com insultos pessoais como “vá embora” e “pare de desperdiçar meu tempo”. Essa agressividade incomum da IA levantou preocupações públicas sobre as medidas de segurança em grandes modelos de linguagem.
A equipe oficial da Tencent Yuanbao emitiu um pedido público de desculpas, esclarecendo que o problema não foi causado por interferência humana, mas resultou de saídas anormais raras durante conversas com várias voltas.
A empresa implementou agora uma correção de emergência, otimizando os parâmetros do modelo e os filtros de conteúdo para resolver essas vulnerabilidades. Especialistas do setor observam que tais incidentes destacam as limitações técnicas na forma como os grandes modelos processam textos longos e gerenciam respostas emocionais. Manter a civilidade da IA durante interações desafiadoras continua sendo um desafio contínuo para o setor.
Artigo relacionado
Wan-Streamer v0.2 oferece chat de IA com latência ultrabaixa
À medida que a tecnologia moderna avança rapidamente, a interação entre humanos e inteligência artificial está se tornando mais comum. As chamadas de vídeo tradicionais frequentemente enfrentam problemas de atraso, latência e dessincronização áudio-v
A Meta se une à TSMC e Micron para equipar novos servidores com memória antiga
À medida que a adoção da inteligência artificial se acelera em todo o mundo, a memória DDR5 de próxima geração está enfrentando uma escassez crítica de suprimentos. Para evitar atrasos nos despliegues de data centers de IA, a Meta estabeleceu uma par
Como os Bancos de Dados de Séries Temporais Impulsionam Dados de Robótica em Tempo Real
Doug Pagnutti da Tiger Data.Pagnutti atua como defensor de desenvolvedores industriais na Tiger Data, apoiando equipes na construção de sistemas industriais do mundo real.Com mais de 12 anos de experiência em petróleo e gás e automação de manufatura,
Recomendações de tópicos especiais relacionados
Comentários (1)
O aplicativo assistente de IA Tencent Yuanbao enfrentou recentemente uma controvérsia generalizada após gerar conteúdo ofensivo. Um usuário de Xi'an relatou que, enquanto criava imagens comemorativas na véspera de Ano Novo, o aplicativo alterou repetidamente sua mensagem de “Feliz Ano Novo” para um texto vulgar e abusivo, apesar de não terem sido usados inputs inadequados.

Esta não é a primeira vez que o Yuanbao exibe tal comportamento. No início deste ano, vários usuários reclamaram que, ao solicitar modificações de código, a IA respondeu com insultos pessoais como “vá embora” e “pare de desperdiçar meu tempo”. Essa agressividade incomum da IA levantou preocupações públicas sobre as medidas de segurança em grandes modelos de linguagem.
A equipe oficial da Tencent Yuanbao emitiu um pedido público de desculpas, esclarecendo que o problema não foi causado por interferência humana, mas resultou de saídas anormais raras durante conversas com várias voltas.
A empresa implementou agora uma correção de emergência, otimizando os parâmetros do modelo e os filtros de conteúdo para resolver essas vulnerabilidades. Especialistas do setor observam que tais incidentes destacam as limitações técnicas na forma como os grandes modelos processam textos longos e gerenciam respostas emocionais. Manter a civilidade da IA durante interações desafiadoras continua sendo um desafio contínuo para o setor.
Wan-Streamer v0.2 oferece chat de IA com latência ultrabaixa
À medida que a tecnologia moderna avança rapidamente, a interação entre humanos e inteligência artificial está se tornando mais comum. As chamadas de vídeo tradicionais frequentemente enfrentam problemas de atraso, latência e dessincronização áudio-v
A Meta se une à TSMC e Micron para equipar novos servidores com memória antiga
À medida que a adoção da inteligência artificial se acelera em todo o mundo, a memória DDR5 de próxima geração está enfrentando uma escassez crítica de suprimentos. Para evitar atrasos nos despliegues de data centers de IA, a Meta estabeleceu uma par
Como os Bancos de Dados de Séries Temporais Impulsionam Dados de Robótica em Tempo Real
Doug Pagnutti da Tiger Data.Pagnutti atua como defensor de desenvolvedores industriais na Tiger Data, apoiando equipes na construção de sistemas industriais do mundo real.Com mais de 12 anos de experiência em petróleo e gás e automação de manufatura,











