El CEO de Anthropic, Dario Amodei, propone incorporar evaluadores de seguridad independientes de terceros en las empresas de inteligencia artificial, con acceso casi interno para publicar sus hallazgos, citando a los reguladores bancarios como modelo. Advierte que agentes desalineados podrían causar daños por cientos de miles de millones de dólares en un plazo de seis a doce meses. Los críticos argumentan que la propuesta carece de poder de aplicación, señalando que los evaluadores no pueden detener el entrenamiento o los lanzamientos. Los expertos cuestionan la independencia de METR, calificándola de lavado de auditoría debido a conflictos de interés. Aunque Anthropic insiste en que la autorregulación es insuficiente, los reguladores enfatizan que una verdadera seguridad requiere la autoridad para detener sistemas peligrosos, no solo investigarlos.