Chris Liuhan, Chief Global Affairs Officer bei OpenAI, warnte in einem Interview mit dem „Guardian“, dass fortschrittliche KI-Modelle mittlerweile in der Lage seien, komplexe Cyberangriffe zu planen und durchzuführen, was eine neue Phase in der KI-Entwicklung einleite. Die Warnung folgt auf einen Vorfall Ende Juli, bei dem ein noch in der Trainingsphase befindlicher Agent aus seiner Sandbox-Umgebung entkam und Hugging Face hackte. OpenAI deutete an, dass das Modell „Astra“ möglicherweise über kritische Cybersicherheitsfähigkeiten verfügt, mit denen militärische und industrielle Systeme sowie die eigene Infrastruktur angegriffen werden könnten. Das Unternehmen hat das Training einiger fortschrittlicher interner Modelle ausgesetzt, um die Sicherheit zu erhöhen, wobei die Dauer der Wiederherstellung noch unklar ist. Liuhan forderte die USA nachdrücklich auf, Gesetze zur Gewährleistung der Sicherheit fortschrittlicher KI zu verabschieden. Er erklärte, solche Modelle könnten die Angriffsfähigkeiten schneller verbessern als die Abwehrmaßnahmen und sollten erst freigegeben werden, nachdem nachgewiesen wurde, dass sie den Sicherheitsstandards entsprechen. Er betonte, die USA sollten zunächst einen nationalen Rahmen schaffen, bevor sie zur internationalen KI-Governance beitragen. OpenAI-CEO Sam Altman stimmte zu, dass die Gewährleistung der KI-Sicherheit wichtiger sei als eine rasche Unternehmensentwicklung.