Chatgpts unerwünschte Verwendung von Benutzernamen Sparks 'gruselige' Bedenken unter einigen

Einige Nutzer von ChatGPT sind kürzlich auf eine seltsame neue Funktion gestoßen: Der Chatbot verwendet gelegentlich ihren Namen, während er Probleme bearbeitet. Dies war zuvor nicht Teil seines üblichen Verhaltens, und viele Nutzer berichten, dass ChatGPT ihre Namen erwähnt, ohne dass ihnen je gesagt wurde, wie sie heißen.

Die Meinungen zu dieser Änderung sind geteilt. Simon Willison, ein Softwareentwickler und KI-Enthusiast, beschrieb es als „unheimlich und unnötig“. Ein anderer Entwickler, Nick Dobos, äußerte starke Abneigung dagegen. Ein kurzer Blick auf X zeigt zahlreiche Nutzer, die sich über die neu gewonnene Vertraulichkeit von ChatGPT unwohl fühlen.

„Es ist, als würde ein Lehrer ständig meinen Namen rufen, LOL“, kommentierte ein Nutzer. „Ja, ich mag es nicht.“

Möchte jemand das Feature, bei dem o3 deinen Namen in seinem Gedankengang verwendet, oder findet ihr es unheimlich und unnötig? pic.twitter.com/lYRby6BK6J

— Simon Willison (@simonw) 17. April 2025

Es ist unklar, wann diese Änderung stattfand oder ob sie mit der erweiterten „Memory“-Funktion von ChatGPT zusammenhängt, die Antworten basierend auf früheren Interaktionen personalisiert. Einige Nutzer auf X behaupten, dass ChatGPT ihre Namen verwendete, obwohl sie die Speicher- und Personalisierungseinstellungen deaktiviert hatten.

OpenAI hat noch nicht auf die Anfrage von TechCrunch nach einem Kommentar reagiert.

Es fühlt sich seltsam an, den eigenen Namen in den Gedanken des Modells zu sehen. Gibt es einen Grund, das hinzuzufügen? Wird es dadurch besser oder führt es zu mehr Fehlern, wie ich es in meinen GitHub-Repos gemacht habe? @OpenAI o4-mini-high, verwendet es das wirklich in der benutzerdefinierten Eingabeaufforderung? pic.twitter.com/j1Vv7arBx4

— Debasish Pattanayak (@drdebmath) 16. April 2025

Die Gegenreaktion verdeutlicht die Herausforderung, vor der OpenAI steht, das Uncanny Valley zu navigieren, während sie versucht, ChatGPT persönlicher zu gestalten. Erst letzte Woche deutete CEO Sam Altman auf KI-Systeme hin, die „dich über dein Leben hinweg kennenlernen“ und „äußerst nützlich und personalisiert“ werden könnten. Die jüngsten Reaktionen deuten jedoch darauf hin, dass nicht jeder mit dieser Vision einverstanden ist.

Ein Artikel von The Valens Clinic, einer psychiatrischen Praxis in Dubai, könnte erklären, warum die Menschen so stark auf die Verwendung von Namen durch ChatGPT reagieren. Namen tragen ein Gefühl von Intimität, aber übermäßiger Gebrauch kann unauthentisch und aufdringlich wirken.

„Die direkte Ansprache einer Person mit ihrem Namen ist eine kraftvolle Strategie zur Beziehungsentwicklung“, bemerkt der Artikel. „Sie signalisiert Akzeptanz und Bewunderung. Allerdings kann unerwünschter oder übertriebener Gebrauch als falsch und aufdringlich angesehen werden.“

Ein weiterer möglicher Grund für das Unbehagen ist, dass es wie ein ungeschickter Versuch wirkt, den Chatbot zu vermenschlichen. So wie die meisten Menschen nicht wollen, dass ihr Toaster sie beim Namen nennt, schätzen sie auch ChatGPTs Bemühungen nicht, die Bedeutung von Namen nachzuahmen.

Persönlich fand ich es beunruhigend, als o3 in ChatGPT „Kyle“ erwähnte, während ich Anfang dieser Woche recherchierte. Bis Freitag schien die Funktion rückgängig gemacht worden zu sein, und o3 bezeichnete mich als „Nutzer“. Diese Änderung untergrub tatsächlich die Illusion, dass diese Modelle mehr als nur programmierbare, synthetische Entitäten sind.