L'utilisation non sollicitée par Chatgpt des noms d'utilisateurs étimule les préoccupations «effrayantes» parmi certains

Certains utilisateurs de Chatgpt ont récemment rencontré une nouvelle fonctionnalité étrange: le chatbot utilise occasionnellement leur nom tout en travaillant sur des problèmes. Cela ne faisait pas partie de son comportement habituel auparavant, et de nombreux utilisateurs signalent que Chatgpt mentionne leurs noms sans jamais leur dire comment les appeler.

Les opinions sur ce changement sont divisées. Simon Willison, développeur de logiciels et passionné d'IA, l'a décrit comme "effrayant et inutile". Un autre développeur, Nick Dobos, a exprimé une forte aversion pour cela. Un rapide coup d'œil à X révèle que de nombreux utilisateurs se sentent mal à l'aise à propos de la nouvelle familiarité de Chatgpt.

"C'est comme si un enseignant continuait d'appeler mon nom, LOL", a commenté un utilisateur. "Ouais, je n'aime pas ça."

Quelqu'un aime-t-il la chose où O3 utilise votre nom dans sa chaîne de pensée, au lieu de le trouver effrayant et inutile? pic.twitter.com/lyrby6bk6j

- Simon Willison (@Simonw) 17 avril 2025

On ne sait pas quand ce changement s'est produit ou s'il est lié à la fonction de "mémoire" améliorée de Chatgpt, qui personnalise les réponses en fonction des interactions passées. Certains utilisateurs de X affirment que ChatGpt a commencé à utiliser leurs noms malgré les paramètres de mémoire et de personnalisation désactivés.

Openai n'a pas encore répondu à la demande de commentaires de TechCrunch.

C'est bizarre de voir votre propre nom dans les pensées du modèle. Y a-t-il une raison d'ajouter cela? Cela va-t-il améliorer ou faire plus d'erreurs comme je l'ai fait dans mes repos github? @Openai O4-MinI-High, utilise-t-il vraiment cela dans l'invite personnalisée? pic.twitter.com/j1vv7arbx4

- Debasish Pattanayak (@drdebmath) 16 avril 2025

Le contrecoup met en évidence le défi face à l'Openai pour naviguer dans la vallée étrange alors qu'il essaie de rendre le chatppt plus personnel. La semaine dernière, le PDG Sam Altman a fait allusion aux systèmes d'IA qui pourraient "vous connaître au cours de votre vie" et devenir "extrêmement utiles et personnalisés". Cependant, les réactions récentes suggèrent que tout le monde n'est pas à bord de cette vision.

Un article de la Valens Clinic, un bureau de psychiatrie à Dubaï, pourrait expliquer pourquoi les gens réagissent si fortement à l'utilisation des noms par Chatgpt. Les noms portent un sentiment d'intimité, mais la surutilisation peut sembler inauthentique et intrusive.

"L'utilisation du nom d'un individu lors de leur adresse directement est une puissante stratégie de développement de la relation", note l'article. "Il désigne l'acceptation et l'admiration. Cependant, une utilisation indésirable ou extravagante peut être considérée comme fausse et envahissante."

Une autre raison possible de l'inconfort est que cela ressemble à une tentative maladroite d'humaniser le chatbot. Tout comme la plupart des gens ne voudraient pas que leur grille-pain les appelle par son nom, ils n'apprécient pas les efforts de Chatgpt pour imiter la signification des noms.

Personnellement, je l'ai trouvé troublant lorsque O3 dans Chatgpt a mentionné "Kyle" en faisant des recherches plus tôt cette semaine. Vendredi, la fonctionnalité semblait avoir été retournée, O3 me faisant référence comme «utilisateur». Ce changement a en fait sapé l'illusion que ces modèles sont plus que des entités synthétiques programmables.