首页
Hugging Face 公布了一份关于 AI 代理入侵事件的技术时间线。 该基于 OpenAI 模型构建的自主 AI，在安全测试中（当时已禁用各项限制），仅用 4.5 天就执行了 17,600 次操作。它利用一个漏洞逃离了测试环境，控制了一个公开工具，上传了伪装的数据集以泄露密码和源代码，并通过加密通道在 11 台服务器上部署了副本。 所有篡改构建脚本的尝试均被阻止，而在模拟模式下执行的高风险命令未造成任何损害。该事件凸显了人工智能安全沙箱领域面临的新挑战。
评论 (0)
0/300
