OpenAI räumt ein, dass Prompt-Injection-Angriffe auf KI-Agenten wie den ChatGPT Atlas-Browser eine anhaltende, unlösbare Bedrohung darstellen, ähnlich wie bei Web-Betrug. Das Unternehmen bekämpft dies mit einem LLM-basierten automatisierten Angreifer-Bot, der mit Hilfe von Reinforcement Learning trainiert wird, um proaktiv neue Angriffsstrategien in der Simulation zu entdecken. OpenAI und Experten weisen darauf hin, dass KI-Browser aufgrund ihres hohen Zugangs zu sensiblen Daten erhebliche Sicherheitsrisiken mit sich bringen, auch wenn die Verteidigung durch schnelle Testzyklen gestärkt wird.