OpenAIs internes Projekt „Project Lily“ zeigt, dass menschliche Prüfer ChatGPT-Gespräche auf Tonfall und Relevanz hin bewerten und dabei mehr als 50 US-Dollar pro Stunde verdienen. Obwohl die Daten anonymisiert sind, bestehen weiterhin Datenschutzrisiken, da Benutzerzusammenfassungen des Gedächtnisses mit Standort- und Interessensangaben einbezogen werden. Die meisten Nutzer stimmen der Datenerfassung standardmäßig zu; gelöschte Chats können möglicherweise in Datensätzen aufbewahrt werden. Dieser menschlich unterstützte Ansatz, der auch von Google und Anthropic angewendet wird, unterstreicht, dass die menschliche Überprüfung trotz algorithmischer Fortschritte für die Optimierung von KI-Modellen weiterhin unerlässlich bleibt.