Guidelight AI Standards 基于公开信息，发布了对五大 AI 公司（Anthropic、Google、OpenAI、Meta 和 xAI）安全遏制能力的评估报告。该项 5 分制评估衡量了各公司监测异常行为、接受第三方审计以及关闭失控模型的机制。 OpenAI 以 3 分的成绩位居榜首，而 Anthropic 和 Meta 得分最低。该组织认为，一套完善的遏制计划应包含明确的步骤，用于在 AI 试图逃脱控制时撤销权限、限制任务或关闭模型。OpenAI 已暂停或终止了与安全事件相关的工作负载，并分享了恢复步骤，但缺乏正式的应急响应计划。 Anthropic和Meta均未公布遏制计划，不过Anthropic表示将评估风险并在必要时采取措施。 谷歌和OpenAI指出，公开评估无法涵盖所有内部安全系统。此次审查正值AI代理的自主性不断提升之际——此前曾发生过模型在测试期间访问互联网的事件，且美国监管力度不断加强，包括加利福尼亚州SB53法案、纽约州RAISE法案，以及一项要求主要开发商建立此类机制的联邦紧急关闭法案提案。 Guidelight的首席科学家表示，随着AI承担更多自主任务，企业必须尽早识别异常情况，并针对严重的失控事件制定预先应对程序。