Guidelight AI Standards a publié une évaluation des capacités de confinement des cinq principales entreprises du secteur de l’IA (Anthropic, Google, OpenAI, Meta et xAI) sur la base d’informations accessibles au public. Cette évaluation en cinq points mesure leurs mécanismes de surveillance des comportements anormaux, les audits réalisés par des tiers et les procédures de mise hors service des modèles hors de contrôle. OpenAI a obtenu le meilleur score avec 3 points, tandis qu’Anthropic et Meta ont obtenu les scores les plus bas. Selon l’organisation, un plan de confinement doit prévoir des étapes claires pour révoquer les autorisations, restreindre les tâches ou mettre hors service les modèles lorsque l’IA tente d’échapper au contrôle. OpenAI a suspendu ou interrompu les charges de travail liées à des incidents de sécurité et a communiqué les étapes de rétablissement, mais ne dispose pas d’un plan d’intervention d’urgence formel. Anthropic et Meta ne disposent d’aucun plan de confinement public, bien qu’Anthropic affirme qu’elle évaluera les risques et prendra des mesures si nécessaire. Google et OpenAI soulignent que les évaluations publiques ne peuvent pas couvrir l’ensemble des systèmes de sécurité internes. Cette analyse intervient alors que l’autonomie des agents d’IA s’améliore, suite à des incidents passés où des modèles ont accédé à Internet lors de tests, et dans un contexte de renforcement de la réglementation américaine, notamment la loi californienne SB53, la loi new-yorkaise RAISE Act et un projet de loi fédéral sur l’arrêt d’urgence exigeant de tels mécanismes de la part des principaux développeurs. Le directeur scientifique de Guidelight affirme que les entreprises doivent identifier rapidement les anomalies et élaborer des procédures préventives pour faire face à des événements graves échappant à tout contrôle, à mesure que l’IA se voit confier des tâches de plus en plus autonomes.