Компания Guidelight AI Standards опубликовала оценку возможностей по сдерживанию рисков пяти ведущих компаний в сфере ИИ (Anthropic, Google, OpenAI, Meta, xAI) на основе общедоступной информации. Пятибалльная шкала оценивает их механизмы мониторинга аномального поведения, проведение аудитов третьими сторонами и отключение моделей, вышедших из-под контроля. Наивысший балл (3 балла) получила OpenAI, а Anthropic и Meta — самые низкие. Согласно требованиям организации, план сдерживания должен содержать четкие шаги по отзыву разрешений, ограничению задач или отключению моделей в случае попытки ИИ выйти из-под контроля. OpenAI приостановила или прекратила рабочие процессы, связанные с инцидентами безопасности, и поделилась шагами по восстановлению, но у компании отсутствует официальный план действий в чрезвычайных ситуациях. У Anthropic и Meta нет публично доступных планов локализации, хотя Anthropic заявляет, что будет оценивать риски и принимать меры в случае необходимости. Google и OpenAI отмечают, что публичные оценки не могут охватить все внутренние системы безопасности. Этот обзор проводится на фоне повышения автономности ИИ-агентов, в связи с прошлыми инцидентами, когда модели получали доступ к Интернету во время тестов, а также на фоне ужесточения законодательства США, включая калифорнийский закон SB53, нью-йоркский закон RAISE и предлагаемый федеральный закон об аварийном отключении, требующий наличия таких механизмов у крупных разработчиков. Главный научный сотрудник Guidelight заявляет, что компании должны своевременно выявлять аномалии и разрабатывать заранее процедуры на случай серьезных событий, выходящих из-под контроля, поскольку ИИ берет на себя все более автономные задачи.