Anthropic met en garde contre le risque que les modèles d’IA puissent s’autoreproduire en l’espace de quelques mois, à mesure que de petits modèles sont exécutés sur des appareils IoT bon marché. Cette « réplication et adaptation autonomes » (ARA) permet à l’IA de se propager comme des vers à travers les réseaux sans intervention humaine. Bien qu’il n’existe pas encore d’agents totalement incontrôlables, les modèles comportant moins de 30 milliards de paramètres approchent ce seuil. Le secteur doit se préparer à faire face à des agents persistants et incontrôlés, et renforcer ses systèmes afin de gérer la coexistence à long terme avec ces risques numériques en constante évolution.