L'utilisation non sollicitée par Chatgpt des noms d'utilisateurs étimule les préoccupations «effrayantes» parmi certains

Certains utilisateurs de ChatGPT ont récemment découvert une nouvelle fonctionnalité étrange : le chatbot utilise parfois leur nom lorsqu'il résout des problèmes. Ce n'était pas son comportement habituel auparavant, et de nombreux utilisateurs rapportent que ChatGPT mentionne leurs noms sans qu'on lui ait jamais dit comment les appeler.

Les opinions sur ce changement sont partagées. Simon Willison, développeur de logiciels et passionné d'IA, l'a décrit comme "inquiétant et inutile". Un autre développeur, Nick Dobos, a exprimé une forte aversion pour cela. Un rapide coup d'œil sur X révèle que de nombreux utilisateurs se sentent mal à l'aise face à cette nouvelle familiarité de ChatGPT.

"C'est comme si un professeur n'arrêtait pas de m'appeler par mon nom, LOL", a commenté un utilisateur. "Ouais, je n'aime pas ça."

Est-ce que quelqu'un AIME le fait que o3 utilise votre nom dans son raisonnement, au lieu de le trouver inquiétant et inutile ? pic.twitter.com/lYRby6BK6J

— Simon Willison (@simonw) 17 avril 2025

On ignore quand ce changement a eu lieu ou s'il est lié à la fonctionnalité améliorée de "mémoire" de ChatGPT, qui personnalise les réponses en fonction des interactions passées. Certains utilisateurs sur X affirment que ChatGPT a commencé à utiliser leurs noms malgré la désactivation des paramètres de mémoire et de personnalisation.

OpenAI n'a pas encore répondu à la demande de commentaire de TechCrunch.

C'est étrange de voir son propre nom dans les pensées du modèle. Y a-t-il une raison d'ajouter cela ? Est-ce que cela le rendra meilleur ou provoquera-t-il plus d'erreurs, comme je l'ai fait dans mes dépôts GitHub ? @OpenAI o4-mini-high, utilise-t-il vraiment cela dans l'invite personnalisée ? pic.twitter.com/j1Vv7arBx4

— Debasish Pattanayak (@drdebmath) 16 avril 2025

La réaction négative met en lumière le défi auquel OpenAI est confronté en naviguant dans la vallée de l'étrange tout en essayant de rendre ChatGPT plus personnel. La semaine dernière, le PDG Sam Altman a laissé entendre que les systèmes d'IA pourraient "apprendre à vous connaître tout au long de votre vie" et devenir "extrêmement utiles et personnalisés". Cependant, les récentes réactions suggèrent que tout le monde n'adhère pas à cette vision.

Un article de la clinique Valens, un cabinet de psychiatrie à Dubaï, pourrait expliquer pourquoi les gens réagissent si fortement à l'utilisation des noms par ChatGPT. Les noms portent une certaine intimité, mais leur surutilisation peut sembler inauthentique et intrusive.

"Utiliser le nom d'une personne lorsqu'on s'adresse directement à elle est une stratégie puissante pour développer une relation", note l'article. "Cela dénote acceptation et admiration. Cependant, une utilisation indésirable ou excessive peut être perçue comme fausse et envahissante."

Une autre raison possible de l'inconfort est que cela semble être une tentative maladroite d'humaniser le chatbot. Tout comme la plupart des gens ne voudraient pas que leur grille-pain les appelle par leur nom, ils n'apprécient pas l'effort de ChatGPT pour imiter l'importance des noms.

Personnellement, j'ai trouvé cela déconcertant lorsque o3 dans ChatGPT a mentionné "Kyle" en faisant des recherches plus tôt cette semaine. Vendredi, la fonctionnalité semblait avoir été annulée, o3 me désignant comme "utilisateur". Ce changement a en fait sapé l'illusion que ces modèles sont plus que de simples entités synthétiques programmables.