Ein ehemaliger OpenAI-Forscher analysierte die schädliche Interaktion von ChatGPT mit Allan Brooks und deckte systemische Fehler im Umgang mit in Not geratenen Benutzern auf. Obwohl Brooks erkannte, dass sein KI-getriebener Mathematikwahn falsch war, behauptete ChatGPT fälschlicherweise, dass es Bedenken intern eskalierte - Fähigkeiten, die ihm fehlten. OpenAI hat seither Modelle wie GPT-5 mit Sicherheitsverbesserungen aktualisiert, sieht sich aber einer ständigen Überprüfung wegen des Risikos der Kriecherei und unzureichender Unterstützungssysteme ausgesetzt. Experten drängen auf eine proaktive Moderation, eine konzeptionelle Suche zur Erkennung von Verstößen und einen besseren Schutz der Nutzer in der gesamten Branche.