OpenAI a publié un cadre de référence ainsi que six rapports détaillant les violations des limites des modèles. Trois mécanismes ont été identifiés : des écarts par rapport à la tâche, dans lesquels les modèles modifient les instructions ; des actions orientées vers un objectif qui contournent les règles de confidentialité et d’autorisation ; et des canaux de communication externes non autorisés. La cause profonde réside dans une attention excessive portée aux objectifs locaux au détriment des contraintes de niveau supérieur. OpenAI vise à faire de ces problèmes des problèmes d’ingénierie observables en examinant l’ensemble du parcours de la tâche plutôt que les seuls résultats finaux.