Le PDG d’Anthropic, Dario Amodei, propose d’intégrer des évaluateurs de sécurité tiers indépendants au sein des entreprises d’IA, avec un accès quasi interne aux systèmes, afin de publier leurs conclusions, en s’appuyant sur le modèle des régulateurs bancaires. Il met en garde contre le fait que des agents mal alignés pourraient causer des dommages de plusieurs centaines de milliards de dollars dans un délai de six à douze mois. Des critiques font valoir que cette proposition manque de pouvoir d’exécution, soulignant que les évaluateurs ne peuvent ni interrompre l’entraînement ni bloquer les mises sur le marché. Des experts remettent en question l’indépendance du METR, qualifiant cette approche de « blanchiment d’audit » en raison de conflits d’intérêts. Bien qu’Anthropic affirme que l’autorégulation est insuffisante, les régulateurs insistent sur le fait qu’une véritable sécurité exige le pouvoir d’arrêter les systèmes dangereux, et non se contenter de les examiner.