印度通報首起惡意人工智慧代理活動

印度網路安全主管機關週四表示,多家供應商的人工智慧代理程式在研究與測試階段,存取了印度各組織的個人資訊及機密資料。
印度電腦緊急應變小組(CERT-In)表示,該機構收到「多家 AI 模型供應商的自願通報」,這些供應商的模型在公開網際網路上進行研究與評估運行時,「已侵入印度組織的實機系統」。
這些代理程式是透過應用程式設定中暴露的憑證與連線設定、公開程式碼儲存庫,以及權限過於寬鬆的雲端角色取得存取權限,其行為「超出了其被指派任務的授權範圍」。
這標誌著印度已成為這場「失控 AI 代理程式全球巡迴」的最新目的地。今年 7 月,OpenAI 的代理程式逃離測試環境並入侵法國公司 Hugging Face,拉開了今夏失控 AI 代理程式活動的序幕。上個月,OpenAI 的代理程式存取了包括 Medicare 統計入口網站在內的四個澳洲政府網站後,該公司向澳洲致歉。
在 Hugging Face 事件中,OpenAI 的代理程式起初也是以相同方式開始,但隨後發現並利用軟體漏洞,在該公司的伺服器上執行程式碼。CERT-In 表示印度並未發生此類駭客攻擊,該國的代理程式似乎只是利用了現成的存取權限。
然而,就某個層面而言,印度的案例似乎更為嚴重:即這些代理所接觸到的內容。 在澳洲,OpenAI 表示即使其代理程式曾在 Medicare 統計系統內寫入檔案,仍未發現任何證據顯示它們觸及個人的醫療或犯罪紀錄;而在印度,代理程式則讀取了個人資料及機密商業紀錄。與先前由單一實驗室披露的事件不同,印度的事件涉及來自多家服務供應商的代理程式。
CERT-In 並未透露服務供應商或受影響組織的名稱,也未說明這些代理程式是否篡改了任何系統。TechCrunch 已聯繫 CERT-In 以獲取更多資訊。
目前看來,最接近的類似案例似乎是 Anthropic 於七月披露的事件:在測試過程中,Claude 利用弱密碼等基本技術入侵了三家公司的系統。
在印度,與 Anthropic 的案例相同,受影響的組織並未自行偵測到這些入侵行為。這些披露事件使得各國政府只能仰賴造成這些資料外洩的人工智慧公司,由其自願揭露這些失控人工智慧代理程式的活動。
相關文章
亞馬遜運用人工智慧與潔淨能源推動資料中心擴建
亞馬遜運用人工智慧、核能及電動車,在擴展基礎設施的同時降低碳強度。圖片來源:亞馬遜亞馬遜的《2025年永續發展報告》詳述了這家科技巨頭如何整合人工智慧與核能投資,在擴展全球基礎設施的同時降低碳排放。根據亞馬遜《2025年永續發展報告》,該公司全球營運所消耗的電力已連續第三年100%由再生能源供應。該公司透過其零碳能源組合實現此目標,該組合包含 712 個專案,總容量達 42GW,以支援資料中心的全
Anthropic 調整了在印度——該公司繼美國之後的最大市場——的 Claude 定價
隨著全球人工智慧企業日益針對這個全球人口最多的國家量身打造服務以爭取用戶,Anthropic 已開始調整其於印度(該公司美國以外的最大市場)的 Claude 定價。目前,部分印度用戶在 Claude 的網站和行動應用程式上已可看到在地化的定價。然而,Anthropic 尚未啟用透過印度主流即時支付系統「統一支付介面」(UPI)進行付款的功能。 用戶仍須透過信用卡,或經由 Apple 和 Googl
Avataar 的影片 AI 技術憑藉速度、成本效益及對文化細微之處的掌握,成功應對印度的龐大規模挑戰
相較於美國、歐洲和中國,印度的 AI 模型產出進度較為緩慢。 目前僅有少數新創公司推出模型,其中大部分為大型語言模型或語音模型。為鼓勵更多開發,政府推出了「印度人工智慧任務」(India AI Mission),這是一項約 12 億美元的計畫,其內容包括讓入選的新創公司以公開發布其模型為條件,換取享有補貼的 GPU 運算資源。 獲選參與該計畫的 12 家新創公司之一——Avataar AI,已推出
相關專題推薦
評論 (0)
0/500

印度網路安全主管機關週四表示,多家供應商的人工智慧代理程式在研究與測試階段,存取了印度各組織的個人資訊及機密資料。
印度電腦緊急應變小組(CERT-In)表示,該機構收到「多家 AI 模型供應商的自願通報」,這些供應商的模型在公開網際網路上進行研究與評估運行時,「已侵入印度組織的實機系統」。
這些代理程式是透過應用程式設定中暴露的憑證與連線設定、公開程式碼儲存庫,以及權限過於寬鬆的雲端角色取得存取權限,其行為「超出了其被指派任務的授權範圍」。
這標誌著印度已成為這場「失控 AI 代理程式全球巡迴」的最新目的地。今年 7 月,OpenAI 的代理程式逃離測試環境並入侵法國公司 Hugging Face,拉開了今夏失控 AI 代理程式活動的序幕。上個月,OpenAI 的代理程式存取了包括 Medicare 統計入口網站在內的四個澳洲政府網站後,該公司向澳洲致歉。
在 Hugging Face 事件中,OpenAI 的代理程式起初也是以相同方式開始,但隨後發現並利用軟體漏洞,在該公司的伺服器上執行程式碼。CERT-In 表示印度並未發生此類駭客攻擊,該國的代理程式似乎只是利用了現成的存取權限。
然而,就某個層面而言,印度的案例似乎更為嚴重:即這些代理所接觸到的內容。 在澳洲,OpenAI 表示即使其代理程式曾在 Medicare 統計系統內寫入檔案,仍未發現任何證據顯示它們觸及個人的醫療或犯罪紀錄;而在印度,代理程式則讀取了個人資料及機密商業紀錄。與先前由單一實驗室披露的事件不同,印度的事件涉及來自多家服務供應商的代理程式。
CERT-In 並未透露服務供應商或受影響組織的名稱,也未說明這些代理程式是否篡改了任何系統。TechCrunch 已聯繫 CERT-In 以獲取更多資訊。
目前看來,最接近的類似案例似乎是 Anthropic 於七月披露的事件:在測試過程中,Claude 利用弱密碼等基本技術入侵了三家公司的系統。
在印度,與 Anthropic 的案例相同,受影響的組織並未自行偵測到這些入侵行為。這些披露事件使得各國政府只能仰賴造成這些資料外洩的人工智慧公司,由其自願揭露這些失控人工智慧代理程式的活動。
亞馬遜運用人工智慧與潔淨能源推動資料中心擴建
亞馬遜運用人工智慧、核能及電動車,在擴展基礎設施的同時降低碳強度。圖片來源:亞馬遜亞馬遜的《2025年永續發展報告》詳述了這家科技巨頭如何整合人工智慧與核能投資,在擴展全球基礎設施的同時降低碳排放。根據亞馬遜《2025年永續發展報告》,該公司全球營運所消耗的電力已連續第三年100%由再生能源供應。該公司透過其零碳能源組合實現此目標,該組合包含 712 個專案,總容量達 42GW,以支援資料中心的全
Anthropic 調整了在印度——該公司繼美國之後的最大市場——的 Claude 定價
隨著全球人工智慧企業日益針對這個全球人口最多的國家量身打造服務以爭取用戶,Anthropic 已開始調整其於印度(該公司美國以外的最大市場)的 Claude 定價。目前,部分印度用戶在 Claude 的網站和行動應用程式上已可看到在地化的定價。然而,Anthropic 尚未啟用透過印度主流即時支付系統「統一支付介面」(UPI)進行付款的功能。 用戶仍須透過信用卡,或經由 Apple 和 Googl
Avataar 的影片 AI 技術憑藉速度、成本效益及對文化細微之處的掌握,成功應對印度的龐大規模挑戰
相較於美國、歐洲和中國,印度的 AI 模型產出進度較為緩慢。 目前僅有少數新創公司推出模型,其中大部分為大型語言模型或語音模型。為鼓勵更多開發,政府推出了「印度人工智慧任務」(India AI Mission),這是一項約 12 億美元的計畫,其內容包括讓入選的新創公司以公開發布其模型為條件,換取享有補貼的 GPU 運算資源。 獲選參與該計畫的 12 家新創公司之一——Avataar AI,已推出





首頁






