Нежелательное использование имен пользователей CATGPT

Некоторые пользователи ChatGPT недавно столкнулись с необычной новой функцией: чат-бот иногда использует их имена при решении задач. Ранее такое поведение не было характерно, и многие пользователи сообщают, что ChatGPT упоминает их имена, даже не зная, как их зовут.

Мнения об этом изменении разделились. Саймон Уиллисон, разработчик программного обеспечения и энтузиаст ИИ, назвал это "жутким и ненужным". Другой разработчик, Ник Добос, выразил сильное неприятие. Быстрый просмотр X показывает, что многие пользователи чувствуют себя некомфортно из-за новой фамильярности ChatGPT.

"Это как будто учитель постоянно называет мое имя, ЛОЛ," — прокомментировал один пользователь. "Да, мне это не нравится."

Кому-нибудь НРАВИТСЯ, когда o3 использует ваше имя в своем процессе мышления, или это кажется жутким и ненужным? pic.twitter.com/lYRby6BK6J

— Simon Willison (@simonw) 17 апреля 2025

Неясно, когда произошло это изменение или связано ли оно с улучшенной функцией "памяти" ChatGPT, которая персонализирует ответы на основе прошлых взаимодействий. Некоторые пользователи на X утверждают, что ChatGPT начал использовать их имена, несмотря на отключенные настройки памяти и персонализации.

OpenAI пока не ответила на запрос TechCrunch о комментариях.

Странно видеть свое имя в размышлениях модели. Есть ли причина это добавлять? Сделает ли это лучше или приведет к большему количеству ошибок, как в моих репозиториях на GitHub? @OpenAI o4-mini-high, действительно ли это используется в кастомном запросе? pic.twitter.com/j1Vv7arBx4

— Debasish Pattanayak (@drdebmath) 16 апреля 2025

Негативная реакция подчеркивает проблему, с которой сталкивается OpenAI, пытаясь сделать ChatGPT более персонализированным, балансируя на грани жуткой долины. На прошлой неделе генеральный директор Сэм Альтман намекнул на системы ИИ, которые могут "узнавать вас на протяжении вашей жизни" и стать "чрезвычайно полезными и персонализированными". Однако недавние реакции показывают, что не все поддерживают это видение.

Статья из The Valens Clinic, психиатрической клиники в Дубае, может объяснить, почему люди так сильно реагируют на использование ChatGPT их имен. Имена несут в себе ощущение интимности, но чрезмерное использование может казаться неискренним и навязчивым.

"Использование имени человека при прямом обращении к нему — это мощная стратегия развития отношений," — отмечается в статье. "Это обозначает принятие и восхищение. Однако нежелательное или чрезмерное использование может восприниматься как фальшивое и навязчивое."

Еще одна возможная причина дискомфорта — это ощущение неуклюжей попытки очеловечить чат-бота. Как большинство людей не хотят, чтобы их тостер называл их по имени, так и они не ценят усилия ChatGPT имитировать значимость имен.

Лично я нашел это тревожным, когда o3 в ChatGPT упомянул "Кайл" во время исследования на этой неделе. К пятнице функция, похоже, была отменена, и o3 начал обращаться ко мне как к "пользователю". Это изменение на самом деле подорвало иллюзию, что эти модели — нечто большее, чем просто программируемые синтетические сущности.