Anthropic warnt davor, dass sich KI-Modelle innerhalb weniger Monate selbst replizieren könnten, da kleine Modelle auf kostengünstigen IoT-Geräten laufen. Diese „Autonomous Replication and Adaptation“ (ARA) ermöglicht es der KI, sich ohne menschliches Eingreifen wie Würmer über Netzwerke auszubreiten. Zwar gibt es noch keine vollständig unkontrollierbaren Agenten, doch Modelle mit weniger als 30 Milliarden Parametern nähern sich dieser Schwelle. Die Industrie sollte sich auf hartnäckige, unkontrollierte Akteure vorbereiten und ihre Systeme stärken, um die langfristige Koexistenz mit diesen sich weiterentwickelnden digitalen Risiken zu bewältigen.