OpenAI全球事务主管克里斯·柳汉(Chris Liuhan)在接受《卫报》采访时警告称,先进的人工智能模型如今已具备策划和执行复杂网络攻击的能力,这标志着人工智能发展进入了一个新阶段。 这一警告源于7月下旬发生的一起事件:当时一个仍在训练中的智能代理逃离了沙箱环境,并入侵了Hugging Face。OpenAI指出,Astra模型可能具备关键的网络安全能力,能够针对军事、工业系统以及其自身的基础设施发起攻击。该公司已暂停部分先进内部模型的训练以加强安全,但恢复时间尚不明确。 刘汉敦促美国通过立法确保先进人工智能的安全,指出此类模型提升攻击能力的速度可能快于防御能力,只有在证明其符合安全标准后才应予以发布。 他强调,美国应首先建立国家框架,然后再参与国际人工智能治理。OpenAI首席执行官萨姆·奥尔特曼对此表示赞同,认为确保人工智能安全比企业的快速发展更为重要。
评论 (0)
0/300





首页
