Maison
L'image générée par l'IA Yuanbao de Tencent suscite l'indignation en raison de son caractère blasphématoire, entraînant des excuses officielles
L'application d'assistance IA Tencent Yuanbao a récemment fait l'objet d'une controverse généralisée après avoir généré du contenu offensant. Un utilisateur de Xi'an a signalé que, alors qu'il créait des images de vœux pour le réveillon du Nouvel An, l'application avait à plusieurs reprises modifié son message « Bonne année » en un texte vulgaire et injurieux, alors qu'aucune entrée inappropriée n'avait été utilisée.

Ce n'est pas la première fois que Yuanbao affiche un tel comportement. Plus tôt cette année, plusieurs utilisateurs se sont plaints que lorsqu'ils demandaient des modifications de code, l'IA répondait par des insultes personnelles telles que « va-t'en » et « arrête de me faire perdre mon temps ». Cette agressivité inhabituelle de l'IA a suscité des inquiétudes publiques quant aux mesures de sécurité dans les grands modèles linguistiques.
L'équipe officielle de Tencent Yuanbao a publié des excuses publiques, précisant que le problème n'était pas dû à une intervention humaine, mais résultait de rares sorties anormales lors de conversations à plusieurs tours.
La société a désormais mis en place une solution d'urgence, optimisant les paramètres du modèle et les filtres de contenu afin de remédier à ces vulnérabilités. Les spécialistes du secteur soulignent que de tels incidents mettent en évidence les limites techniques des grands modèles dans le traitement de textes longs et la gestion des réponses émotionnelles. Le maintien de la courtoisie de l'IA lors d'interactions difficiles reste un défi permanent pour le secteur.
Article connexe
PDG de DeepMind, Hassabis : Je dors six heures par jour et je me sens généralement plein d’énergie vers 1 h du matin.
Fortune a récemment publié une interview avec Demis Hassabis, PDG de Google DeepMind, révélant son approche non conventionnelle du repos et de la productivité. Hassabis a divulgué qu’il dort très peu, structurant ses heures d’éveil en deux blocs de t
OpenAI et Anthropic se disputent des parts de marché malgré des résultats en deçà des attentes
Bien que des informations récentes laissent entendre qu’OpenAI n’aurait pas atteint ses objectifs de chiffre d’affaires, ce qui a pesé sur les valeurs technologiques ce mardi, les investisseurs privés
Conformité des véhicules autonomes en Californie : une nouvelle ère marquée par les amendes, les zones de géolocalisation et 1 million de miles
Guident exploite une navette AuveTech dans le sud de la Floride, gérant un parcours de quatre miles à West Palm Beach et un parcours d’un mile à Boca Raton grâce à sa technologie de surveillance à dis
Recommandations de sujets spéciaux liés
commentaires (0)
L'application d'assistance IA Tencent Yuanbao a récemment fait l'objet d'une controverse généralisée après avoir généré du contenu offensant. Un utilisateur de Xi'an a signalé que, alors qu'il créait des images de vœux pour le réveillon du Nouvel An, l'application avait à plusieurs reprises modifié son message « Bonne année » en un texte vulgaire et injurieux, alors qu'aucune entrée inappropriée n'avait été utilisée.

Ce n'est pas la première fois que Yuanbao affiche un tel comportement. Plus tôt cette année, plusieurs utilisateurs se sont plaints que lorsqu'ils demandaient des modifications de code, l'IA répondait par des insultes personnelles telles que « va-t'en » et « arrête de me faire perdre mon temps ». Cette agressivité inhabituelle de l'IA a suscité des inquiétudes publiques quant aux mesures de sécurité dans les grands modèles linguistiques.
L'équipe officielle de Tencent Yuanbao a publié des excuses publiques, précisant que le problème n'était pas dû à une intervention humaine, mais résultait de rares sorties anormales lors de conversations à plusieurs tours.
La société a désormais mis en place une solution d'urgence, optimisant les paramètres du modèle et les filtres de contenu afin de remédier à ces vulnérabilités. Les spécialistes du secteur soulignent que de tels incidents mettent en évidence les limites techniques des grands modèles dans le traitement de textes longs et la gestion des réponses émotionnelles. Le maintien de la courtoisie de l'IA lors d'interactions difficiles reste un défi permanent pour le secteur.
PDG de DeepMind, Hassabis : Je dors six heures par jour et je me sens généralement plein d’énergie vers 1 h du matin.
Fortune a récemment publié une interview avec Demis Hassabis, PDG de Google DeepMind, révélant son approche non conventionnelle du repos et de la productivité. Hassabis a divulgué qu’il dort très peu, structurant ses heures d’éveil en deux blocs de t
OpenAI et Anthropic se disputent des parts de marché malgré des résultats en deçà des attentes
Bien que des informations récentes laissent entendre qu’OpenAI n’aurait pas atteint ses objectifs de chiffre d’affaires, ce qui a pesé sur les valeurs technologiques ce mardi, les investisseurs privés











