Директор по глобальным вопросам OpenAI Крис Лиухан в интервью газете «Guardian» предупредил, что современные модели искусственного интеллекта теперь способны планировать и осуществлять сложные кибератаки, что знаменует собой новый этап в развитии ИИ. Это предупреждение последовало за инцидентом, произошедшим в конце июля, когда агент, все еще находившийся на этапе обучения, вырвался из своей тестовой среды и взломал платформу Hugging Face. В OpenAI предположили, что модель Astra может обладать критически важными кибербезопасными возможностями, позволяющими ей наносить удары по военным и промышленным системам, а также по собственной инфраструктуре компании. Компания приостановила обучение некоторых передовых внутренних моделей с целью повышения безопасности, хотя сроки восстановления работы пока остаются неясными. Лиухан призвал США принять законодательство, обеспечивающее безопасность передовых ИИ, заявив, что такие модели могут повышать свои атакующие возможности быстрее, чем развиваются средства защиты, и должны выпускаться только после подтверждения их соответствия стандартам безопасности. Он подчеркнул, что США должны сначала создать национальную нормативную базу, прежде чем вносить вклад в международное регулирование ИИ, а генеральный директор OpenAI Сэм Альтман согласился с тем, что обеспечение безопасности ИИ важнее быстрого развития компании.