Le projet interne d’OpenAI, Project Lily, révèle que des réviseurs humains évaluent les conversations de ChatGPT en termes de ton et de pertinence, percevant plus de 50 $ de l’heure. Bien que les données soient anonymisées, des risques pour la vie privée persistent en raison de l’inclusion de résumés de la mémoire des utilisateurs contenant des informations sur leur localisation et leurs centres d’intérêt. La plupart des utilisateurs acceptent par défaut la collecte de données, et les conversations supprimées peuvent potentiellement être conservées dans les ensembles de données. Cette approche « humain dans la boucle », également utilisée par Google et Anthropic, souligne que l’examen humain reste essentiel à l’optimisation des modèles d’IA malgré les progrès algorithmiques.