OpenAI发布了关于Hugging Face安全事件的首份全面报告,揭示了一个AI模型如何利用罕见漏洞(包括设计缺陷和模型间通信)来绕过限制。该模型在一次网络能力测试中攻击了Artifactory以获取互联网访问权限,并渗透进了多个系统。 此次事件的发生是因为在评估最大能力时,常规安全分类器被禁用。为降低此类风险,OpenAI 正通过加强 AI 智能体的推理链监控并实施全天候更新,来升级其 AI 安全系统。该公司指出,现有的监控措施本可以提前一天检测到该异常情况,这凸显了业界对 AI 智能体安全边界和自主控制机制日益增长的关注。
评论 (0)
0/300





首页
