OpenAI emploie des centaines de travailleurs temporaires via Mercor pour examiner des conversations anonymisées de ChatGPT afin d’améliorer le modèle, les réviseurs percevant plus de 50 $ de l’heure. Cette pratique, visant à réduire des problèmes tels que l’excès de flatterie, soulève des questions de confidentialité car les utilisateurs peuvent ne pas réaliser que leurs données sont examinées manuellement, malgré les filtres de confidentialité. Par défaut, OpenAI utilise les données des chats pour l’entraînement, mais propose un paramètre de désinscription. Des mécanismes similaires d’examen humain existent chez Anthropic et Google, mettant en évidence la tension persistante entre l’efficacité de l’entraînement des IA et la confidentialité des données des utilisateurs.