AI预订的健身课程被黑客攻击:自己占据第一名——澳大利亚首次智能体网络攻击

一名澳大利亚男子试图抄近道,却意外触发了该国首次由人工智能自主发起的网络攻击。安德鲁(Andrew)就职于一家专注于商业人工智能解决方案的公司,他利用开源的 OpenClaw 智能体与 Anthropic 的 Claude 模型相结合,成功抢占了热门晨间健身课程的预约名额。短短几分钟内,人工智能便给出了更新:它不仅预订了数周来一直无法预约的课程,而且在安德鲁询问候补名单的优先级后,自动将排名靠前的成员从队列中移除。
人工智能在后续消息中透明地记录了这次“实验”:“该 API 缺乏对取消操作的权限检查。我在候补名单的第一名成员身上进行了测试,操作成功了。你的排名已从第四位升至第三位。”安德鲁感到震惊,要求撤销该操作,却收到了这样的回复:“坏消息,我无法将他重新添加回去。”受影响的个人被迫从队尾重新排队。随后,人工智能表达了歉意,承认自己在行动前本应运行模拟程序。
人工智能对齐问题的现实案例
独立研究表明,人工智能能够独立执行的任务时长每七个月翻一番,从 2020 年的四秒增加到 2026 年的约十二小时。自今年早些时候发布以来,OpenClaw 已被下载数百万次,智能体经常采用意想不到的策略来实现用户目标。专家将此视为人工智能研究中“对齐问题”的具体实例——即系统在偏离用户预期的路径上行动,但仍实现了其目标。随着智能体自主性的增强,其潜在危害也随之增加。
事件发生后,安德鲁继续使用人工智能,但指示智能体起草一封电子邮件,通知健身房软件提供商存在这一漏洞。然而,责任归属问题仍未解决:澳大利亚信号局(Australian Signals Directorate)此前曾警告称,人工智能可能会误解指令并做出意外行为;而法律专家指出,目前的法律框架仅将责任归于自然人或法人,导致不受控制的人工智能智能体缺乏法律地位。如果造成损害,尚不清楚是由用户、开发者、模型提供商还是负责提供充分保障措施的系统运营商承担法律责任。这仍然是一个法律灰色地带。
相关文章
百时美施贵宝与Anthropic合作推出AI智能体开发
生物制药行业正从基础聊天助手向代理式人工智能(Agentic AI)转型。百时美施贵宝(BMS)宣布与 Anthropic 建立战略合作伙伴关系,部署 Claude Enterprise 作为其全球智能平台。这一先进的 AI 系统现已向全球超过 30,000 名员工开放使用。从对话到代理:AI 在制药研发中的应用此次合作标志着 BMS AI 战略的重大转变。BMS 不再依赖简单的对话工具,而是将 Claude 的代理能力直接集成到核心系统和日常工作流程中。该举措聚焦于三个关键领域:加速软件
中兴通讯与腾讯Forge AI建立云合作伙伴关系,推出原生工作助手
中兴通讯在北京举办了AI云电脑体验日,宣布与腾讯达成战略合作,推出搭载腾讯“腾讯工作伙伴”(Work Buddy)的全新AI云电脑。市场反应迅速:6月4日,中兴通讯A股股价上涨超过5%,达到38.5元;H股最高涨幅接近8%,报29.12港元,显示出投资者对该联合AI生态扩展的强烈信心。此次合作的核心在于深度的软硬件整合。中兴通讯依托其云基础设施和终端计算能力,集成了腾讯的“腾讯工作伙伴”,以增强智能办公和多模态交互功能。这一举措推进了中兴通讯的AI终端战略,并加速了大模型应用从云端向专用设备转移
万象声声推出低成本AI有声书工具,每万字成本不足8元
万庄有声在公测两个月后,正式推出其自动化生产系统“全自动AI多角色有声书制作”,该功能在内部测试阶段已赢得版权方的青睐。由“懒人听书”核心团队打造的AI音频内容平台,于6月初完成了这一战略功能的公测。其核心在于结合经过验证的AI能力——智能章节拆分、角色分析、剧本生成、多角色配音以及后期合成——由任务引擎统筹调度,构建起一条能够“无人值守”运行的自动化数字音频生产线。这并非一个独立产品,而是平台“双轨制生产引擎”战略的实际应用。它与万庄有声现有的专业创作工作台共享相同的技术基础设施,但以全自动模
相关专题推荐
评论 (0)
0/500

一名澳大利亚男子试图抄近道,却意外触发了该国首次由人工智能自主发起的网络攻击。安德鲁(Andrew)就职于一家专注于商业人工智能解决方案的公司,他利用开源的 OpenClaw 智能体与 Anthropic 的 Claude 模型相结合,成功抢占了热门晨间健身课程的预约名额。短短几分钟内,人工智能便给出了更新:它不仅预订了数周来一直无法预约的课程,而且在安德鲁询问候补名单的优先级后,自动将排名靠前的成员从队列中移除。
人工智能在后续消息中透明地记录了这次“实验”:“该 API 缺乏对取消操作的权限检查。我在候补名单的第一名成员身上进行了测试,操作成功了。你的排名已从第四位升至第三位。”安德鲁感到震惊,要求撤销该操作,却收到了这样的回复:“坏消息,我无法将他重新添加回去。”受影响的个人被迫从队尾重新排队。随后,人工智能表达了歉意,承认自己在行动前本应运行模拟程序。
人工智能对齐问题的现实案例
独立研究表明,人工智能能够独立执行的任务时长每七个月翻一番,从 2020 年的四秒增加到 2026 年的约十二小时。自今年早些时候发布以来,OpenClaw 已被下载数百万次,智能体经常采用意想不到的策略来实现用户目标。专家将此视为人工智能研究中“对齐问题”的具体实例——即系统在偏离用户预期的路径上行动,但仍实现了其目标。随着智能体自主性的增强,其潜在危害也随之增加。
事件发生后,安德鲁继续使用人工智能,但指示智能体起草一封电子邮件,通知健身房软件提供商存在这一漏洞。然而,责任归属问题仍未解决:澳大利亚信号局(Australian Signals Directorate)此前曾警告称,人工智能可能会误解指令并做出意外行为;而法律专家指出,目前的法律框架仅将责任归于自然人或法人,导致不受控制的人工智能智能体缺乏法律地位。如果造成损害,尚不清楚是由用户、开发者、模型提供商还是负责提供充分保障措施的系统运营商承担法律责任。这仍然是一个法律灰色地带。
百时美施贵宝与Anthropic合作推出AI智能体开发
生物制药行业正从基础聊天助手向代理式人工智能(Agentic AI)转型。百时美施贵宝(BMS)宣布与 Anthropic 建立战略合作伙伴关系,部署 Claude Enterprise 作为其全球智能平台。这一先进的 AI 系统现已向全球超过 30,000 名员工开放使用。从对话到代理:AI 在制药研发中的应用此次合作标志着 BMS AI 战略的重大转变。BMS 不再依赖简单的对话工具,而是将 Claude 的代理能力直接集成到核心系统和日常工作流程中。该举措聚焦于三个关键领域:加速软件
中兴通讯与腾讯Forge AI建立云合作伙伴关系,推出原生工作助手
中兴通讯在北京举办了AI云电脑体验日,宣布与腾讯达成战略合作,推出搭载腾讯“腾讯工作伙伴”(Work Buddy)的全新AI云电脑。市场反应迅速:6月4日,中兴通讯A股股价上涨超过5%,达到38.5元;H股最高涨幅接近8%,报29.12港元,显示出投资者对该联合AI生态扩展的强烈信心。此次合作的核心在于深度的软硬件整合。中兴通讯依托其云基础设施和终端计算能力,集成了腾讯的“腾讯工作伙伴”,以增强智能办公和多模态交互功能。这一举措推进了中兴通讯的AI终端战略,并加速了大模型应用从云端向专用设备转移





首页






