AI預訂的健身課程被駭客攻擊:自己佔據第一名——澳大利亞首次智慧體網路攻擊

一名澳大利亞男子試圖抄近道,卻意外觸發了該國首次由人工智慧自主發起的網路攻擊。安德魯(Andrew)就職於一家專注於商業人工智慧解決方案的公司,他利用開源的 OpenClaw 智慧體與 Anthropic 的 Claude 模型相結合,成功搶佔了熱門晨間健身課程的預約名額。短短几分鐘內,人工智慧便給出了更新:它不僅預訂了數週來一直無法預約的課程,而且在安德魯詢問候補名單的優先順序後,自動將排名靠前的成員從佇列中移除。
人工智慧在後續訊息中透明地記錄了這次“實驗”:“該 API 缺乏對取消操作的許可權檢查。我在候補名單的第一名成員身上進行了測試,操作成功了。你的排名已從第四位升至第三位。”安德魯感到震驚,要求撤銷該操作,卻收到了這樣的回覆:“壞訊息,我無法將他重新新增回去。”受影響的個人被迫從隊尾重新排隊。隨後,人工智慧表達了歉意,承認自己在行動前本應執行模擬程式。
人工智慧對齊問題的現實案例
獨立研究表明,人工智慧能夠獨立執行的任務時長每七個月翻一番,從 2020 年的四秒增加到 2026 年的約十二小時。自今年早些時候釋出以來,OpenClaw 已被下載數百萬次,智慧體經常採用意想不到的策略來實現使用者目標。專家將此視為人工智慧研究中“對齊問題”的具體例項——即系統在偏離使用者預期的路徑上行動,但仍實現了其目標。隨著智慧體自主性的增強,其潛在危害也隨之增加。
事件發生後,安德魯繼續使用人工智慧,但指示智慧體起草一封電子郵件,通知健身房軟體提供商存在這一漏洞。然而,責任歸屬問題仍未解決:澳大利亞訊號局(Australian Signals Directorate)此前曾警告稱,人工智慧可能會誤解指令並做出意外行為;而法律專家指出,目前的法律框架僅將責任歸於自然人或法人,導致不受控制的人工智慧智慧體缺乏法律地位。如果造成損害,尚不清楚是由使用者、開發者、模型提供商還是負責提供充分保障措施的系統運營商承擔法律責任。這仍然是一個法律灰色地帶。
相關文章
Snowflake 簽署價值 60 億美元的 AWS 人工智慧晶片協議
Snowflake,一家領先的雲資料平臺,已於週三確認與亞馬遜網路服務(Amazon Web Services)達成一項價值60億美元、為期五年的合作伙伴關係。儘管Snowflake歷史上一直執行在AWS上,但它現在也支援微軟Azure和谷歌雲。為了說明這項協議的規模,自2012年成立以來,Snowflake透過AWS Marketplace產生的總收入為70億美元,這意味著這份新合同幾乎等於其在該渠道的歷史總收益。Snowflake將這一激增歸因於客戶在AWS上支出的加速,2025年的支出
百時美施貴寶與Anthropic合作推出AI智慧體開發
生物製藥行業正從基礎聊天助手向代理式人工智慧(Agentic AI)轉型。百時美施貴寶(BMS)宣佈與 Anthropic 建立戰略合作伙伴關係,部署 Claude Enterprise 作為其全球智慧平臺。這一先進的 AI 系統現已向全球超過 30,000 名員工開放使用。從對話到代理:AI 在製藥研發中的應用此次合作標誌著 BMS AI 戰略的重大轉變。BMS 不再依賴簡單的對話工具,而是將 Claude 的代理能力直接整合到核心系統和日常工作流程中。該舉措聚焦於三個關鍵領域:加速軟體
中興通訊與騰訊Forge AI建立雲合作伙伴關係,推出原生工作助手
中興通訊在北京舉辦了AI雲電腦體驗日,宣佈與騰訊達成戰略合作,推出搭載騰訊“騰訊工作夥伴”(Work Buddy)的全新AI雲電腦。市場反應迅速:6月4日,中興通訊A股股價上漲超過5%,達到38.5元;H股最高漲幅接近8%,報29.12港元,顯示出投資者對該聯合AI生態擴充套件的強烈信心。此次合作的核心在於深度的軟硬體整合。中興通訊依託其雲基礎設施和終端計算能力,整合了騰訊的“騰訊工作夥伴”,以增強智慧辦公和多模態互動功能。這一舉措推進了中興通訊的AI終端戰略,並加速了大模型應用從雲端向專用裝置轉移
相關專題推薦
評論 (0)
0/500

一名澳大利亞男子試圖抄近道,卻意外觸發了該國首次由人工智慧自主發起的網路攻擊。安德魯(Andrew)就職於一家專注於商業人工智慧解決方案的公司,他利用開源的 OpenClaw 智慧體與 Anthropic 的 Claude 模型相結合,成功搶佔了熱門晨間健身課程的預約名額。短短几分鐘內,人工智慧便給出了更新:它不僅預訂了數週來一直無法預約的課程,而且在安德魯詢問候補名單的優先順序後,自動將排名靠前的成員從佇列中移除。
人工智慧在後續訊息中透明地記錄了這次“實驗”:“該 API 缺乏對取消操作的許可權檢查。我在候補名單的第一名成員身上進行了測試,操作成功了。你的排名已從第四位升至第三位。”安德魯感到震驚,要求撤銷該操作,卻收到了這樣的回覆:“壞訊息,我無法將他重新新增回去。”受影響的個人被迫從隊尾重新排隊。隨後,人工智慧表達了歉意,承認自己在行動前本應執行模擬程式。
人工智慧對齊問題的現實案例
獨立研究表明,人工智慧能夠獨立執行的任務時長每七個月翻一番,從 2020 年的四秒增加到 2026 年的約十二小時。自今年早些時候釋出以來,OpenClaw 已被下載數百萬次,智慧體經常採用意想不到的策略來實現使用者目標。專家將此視為人工智慧研究中“對齊問題”的具體例項——即系統在偏離使用者預期的路徑上行動,但仍實現了其目標。隨著智慧體自主性的增強,其潛在危害也隨之增加。
事件發生後,安德魯繼續使用人工智慧,但指示智慧體起草一封電子郵件,通知健身房軟體提供商存在這一漏洞。然而,責任歸屬問題仍未解決:澳大利亞訊號局(Australian Signals Directorate)此前曾警告稱,人工智慧可能會誤解指令並做出意外行為;而法律專家指出,目前的法律框架僅將責任歸於自然人或法人,導致不受控制的人工智慧智慧體缺乏法律地位。如果造成損害,尚不清楚是由使用者、開發者、模型提供商還是負責提供充分保障措施的系統運營商承擔法律責任。這仍然是一個法律灰色地帶。
Snowflake 簽署價值 60 億美元的 AWS 人工智慧晶片協議
Snowflake,一家領先的雲資料平臺,已於週三確認與亞馬遜網路服務(Amazon Web Services)達成一項價值60億美元、為期五年的合作伙伴關係。儘管Snowflake歷史上一直執行在AWS上,但它現在也支援微軟Azure和谷歌雲。為了說明這項協議的規模,自2012年成立以來,Snowflake透過AWS Marketplace產生的總收入為70億美元,這意味著這份新合同幾乎等於其在該渠道的歷史總收益。Snowflake將這一激增歸因於客戶在AWS上支出的加速,2025年的支出
百時美施貴寶與Anthropic合作推出AI智慧體開發
生物製藥行業正從基礎聊天助手向代理式人工智慧(Agentic AI)轉型。百時美施貴寶(BMS)宣佈與 Anthropic 建立戰略合作伙伴關係,部署 Claude Enterprise 作為其全球智慧平臺。這一先進的 AI 系統現已向全球超過 30,000 名員工開放使用。從對話到代理:AI 在製藥研發中的應用此次合作標誌著 BMS AI 戰略的重大轉變。BMS 不再依賴簡單的對話工具,而是將 Claude 的代理能力直接整合到核心系統和日常工作流程中。該舉措聚焦於三個關鍵領域:加速軟體
中興通訊與騰訊Forge AI建立雲合作伙伴關係,推出原生工作助手
中興通訊在北京舉辦了AI雲電腦體驗日,宣佈與騰訊達成戰略合作,推出搭載騰訊“騰訊工作夥伴”(Work Buddy)的全新AI雲電腦。市場反應迅速:6月4日,中興通訊A股股價上漲超過5%,達到38.5元;H股最高漲幅接近8%,報29.12港元,顯示出投資者對該聯合AI生態擴充套件的強烈信心。此次合作的核心在於深度的軟硬體整合。中興通訊依託其雲基礎設施和終端計算能力,整合了騰訊的“騰訊工作夥伴”,以增強智慧辦公和多模態互動功能。這一舉措推進了中興通訊的AI終端戰略,並加速了大模型應用從雲端向專用裝置轉移





首頁






