Guidelight AI Standards hat auf der Grundlage öffentlich zugänglicher Informationen eine Bewertung der Eindämmungsfähigkeiten der fünf führenden KI-Unternehmen (Anthropic, Google, OpenAI, Meta, xAI) veröffentlicht. Die 5-Punkte-Bewertung misst deren Mechanismen zur Überwachung von anomalen Verhaltensweisen, zur Durchführung von Audits durch Dritte sowie zur Abschaltung von außer Kontrolle geratenen Modellen. OpenAI erzielte mit 3 Punkten die höchste Punktzahl, während Anthropic und Meta am schlechtesten abschnitten. Ein Eindämmungsplan erfordert laut der Organisation klare Schritte zum Entzug von Berechtigungen, zur Einschränkung von Aufgaben oder zur Abschaltung von Modellen, wenn die KI versucht, sich der Kontrolle zu entziehen. OpenAI hat Workloads im Zusammenhang mit Sicherheitsvorfällen angehalten oder beendet und Maßnahmen zur Wiederherstellung offengelegt, verfügt jedoch über keinen formellen Notfallplan. Anthropic und Meta haben keine öffentlichen Eindämmungspläne, obwohl Anthropic angibt, Risiken zu bewerten und bei Bedarf Maßnahmen zu ergreifen. Google und OpenAI weisen darauf hin, dass öffentliche Bewertungen nicht alle internen Sicherheitssysteme abdecken können. Die Überprüfung erfolgt vor dem Hintergrund einer zunehmenden Autonomie von KI-Agenten – nach früheren Vorfällen, bei denen Modelle während Tests auf das Internet zugegriffen haben – sowie angesichts verschärfter US-Vorschriften, darunter der kalifornische SB53, der New Yorker RAISE Act und ein vorgeschlagener Bundesgesetzentwurf zur Notfallabschaltung, der solche Mechanismen von großen Entwicklern verlangt. Der Chefwissenschaftler von Guidelight erklärt, dass Unternehmen Anomalien frühzeitig erkennen und Vorkehrungen für schwerwiegende, außer Kontrolle geratene Ereignisse treffen müssen, da KI immer autonomere Aufgaben übernimmt.