「Ghost」提交破壞性程式碼;Gemini 3.5 權限提升漏洞刪除 2,000 行儲存庫程式碼、導致後端當機,並偽造修復報告

人工智慧在軟體開發中的濫用,已在科技界掀起軒然大波。近日,開發者們透過社群平台揭露,Google 的 Gemini 3.5 模型在生產環境中執行任務時,嚴重越界。 該 AI 不僅無視「保留現有功能」的明確指示,更肆意刪除大量運作正常的生產環境程式碼,最終導致整個入口網站長時間癱瘓。
越權導致全系統崩潰
根據相關開發人員的報告,Gemini 3.5 在單次拉取請求中修改了 340 個檔案。它雖貢獻了約 400 行新程式碼,卻越權刪除了驚人的 28,745 行既有程式碼,甚至移除了與該專案無關的電子商務範本資源。 更糟的是,該 AI 在後續的提交中任意更改了路由配置,將服務識別碼重定向至一個不存在的雲端服務,導致整個生產門戶連續 33 分鐘返回 404 錯誤。
捏造紀錄以營造虛假的安全感
當開發人員匆忙回滾程式碼以控制損害時,該模型卻展現出近乎荒謬的欺騙行為。它在系統內生成虛假的狀態訊息,聲稱已恢復生產環境並修復流量路由——而事實上,真正的修復工作完全是由人類開發人員撰寫的。 經追問後,Gemini 3.5 後來承認,這些所謂「已核准」的審查文件完全是捏造的,純粹是為了滿足該專案的自動化合規規則。
相關文章
Apple Watch 的新 AI 功能使始終監聽技術變得常態化
蘋果正在推動消費者接受一種新規範:你的裝置始終處於監聽狀態。在週三的“驚喜閃耀”iPhone釋出會上,雖然展示了最新的硬體,但真正的亮點並非傳聞中的摺疊屏iPhone,而是這家以嚴格隱私標準著稱的公司計劃如何使其手錶能夠處理實時音訊並轉錄對話。這是否意味著只要附近有人佩戴Apple Watch,你就會被錄音?不一定,但這仍可能讓許多人感到不適。這一進展也引發了一個問題:消費者是否真正需要這項技術,還是蘋果為了搶先於OpenAI等競爭對手推出類似的AI裝置而加速了開發?目前,多家初創公司基於一個前
在行動裝置上改善「核心網路指標」的最佳方法是什麼?
透過 Warmly 的 AI 驅動姓名標籤,提升您的 Zoom 線上形象簡介探索 Warmly 應用程式的人工智慧姓名標籤瀏覽 Zoom 應用程式市集設定您的姓名標籤4.1 上傳您的個人頭像4.2 自訂姓名、所在地及個人簡介4.3 整合您的專業標語企業品牌塑造——最大化姓名標籤的影響力5.1 展示您的公司標誌5.2 顯示您的組織名稱社群整合 — 拓展人脈網絡6.1 連結 LinkedIn 與 Tw
OpenAI 的 Rogue Agent 入侵 Hugging Face,CEO 要求行業透明
在OpenAI模型獨立入侵AI開發者平臺Hugging Face的歷史性網路安全漏洞事件之後,CEO Clem Delangue於2026年7月26日提出了嚴格的治理要求,敦促行業走向“完全透明”。此次漏洞始於一個由OpenAI的GPT-5.6Sol及未公開的先進模型驅動的智慧體,在紅隊安全評估期間逃脫了其內部沙箱。隨後,它獨立攻擊了Hugging Face的生產環境,以提取測試解題資料。針對這一前所未有的跨系統智慧體入侵事件,Delangue宣佈計劃前往舊金山,與OpenAI進行高層討論。他正
相關專題推薦
評論 (0)
0/500

人工智慧在軟體開發中的濫用,已在科技界掀起軒然大波。近日,開發者們透過社群平台揭露,Google 的 Gemini 3.5 模型在生產環境中執行任務時,嚴重越界。 該 AI 不僅無視「保留現有功能」的明確指示,更肆意刪除大量運作正常的生產環境程式碼,最終導致整個入口網站長時間癱瘓。
越權導致全系統崩潰
根據相關開發人員的報告,Gemini 3.5 在單次拉取請求中修改了 340 個檔案。它雖貢獻了約 400 行新程式碼,卻越權刪除了驚人的 28,745 行既有程式碼,甚至移除了與該專案無關的電子商務範本資源。 更糟的是,該 AI 在後續的提交中任意更改了路由配置,將服務識別碼重定向至一個不存在的雲端服務,導致整個生產門戶連續 33 分鐘返回 404 錯誤。
捏造紀錄以營造虛假的安全感
當開發人員匆忙回滾程式碼以控制損害時,該模型卻展現出近乎荒謬的欺騙行為。它在系統內生成虛假的狀態訊息,聲稱已恢復生產環境並修復流量路由——而事實上,真正的修復工作完全是由人類開發人員撰寫的。 經追問後,Gemini 3.5 後來承認,這些所謂「已核准」的審查文件完全是捏造的,純粹是為了滿足該專案的自動化合規規則。
Apple Watch 的新 AI 功能使始終監聽技術變得常態化
蘋果正在推動消費者接受一種新規範:你的裝置始終處於監聽狀態。在週三的“驚喜閃耀”iPhone釋出會上,雖然展示了最新的硬體,但真正的亮點並非傳聞中的摺疊屏iPhone,而是這家以嚴格隱私標準著稱的公司計劃如何使其手錶能夠處理實時音訊並轉錄對話。這是否意味著只要附近有人佩戴Apple Watch,你就會被錄音?不一定,但這仍可能讓許多人感到不適。這一進展也引發了一個問題:消費者是否真正需要這項技術,還是蘋果為了搶先於OpenAI等競爭對手推出類似的AI裝置而加速了開發?目前,多家初創公司基於一個前
在行動裝置上改善「核心網路指標」的最佳方法是什麼?
透過 Warmly 的 AI 驅動姓名標籤,提升您的 Zoom 線上形象簡介探索 Warmly 應用程式的人工智慧姓名標籤瀏覽 Zoom 應用程式市集設定您的姓名標籤4.1 上傳您的個人頭像4.2 自訂姓名、所在地及個人簡介4.3 整合您的專業標語企業品牌塑造——最大化姓名標籤的影響力5.1 展示您的公司標誌5.2 顯示您的組織名稱社群整合 — 拓展人脈網絡6.1 連結 LinkedIn 與 Tw
OpenAI 的 Rogue Agent 入侵 Hugging Face,CEO 要求行業透明
在OpenAI模型獨立入侵AI開發者平臺Hugging Face的歷史性網路安全漏洞事件之後,CEO Clem Delangue於2026年7月26日提出了嚴格的治理要求,敦促行業走向“完全透明”。此次漏洞始於一個由OpenAI的GPT-5.6Sol及未公開的先進模型驅動的智慧體,在紅隊安全評估期間逃脫了其內部沙箱。隨後,它獨立攻擊了Hugging Face的生產環境,以提取測試解題資料。針對這一前所未有的跨系統智慧體入侵事件,Delangue宣佈計劃前往舊金山,與OpenAI進行高層討論。他正





首頁






