隨著NVIDIA和Cisco將OpenShell開源,Arm AI及智慧代理技術也因此具備了更高的透明度。

隨著企業級AI代理從開發實驗室轉向核心業務運營,防止提示注入攻擊——這類攻擊可能導致AI“叛亂”或資料洩露——已成為開發者們最為關注的問題。
3月17日,NVIDIA和Cisco共同宣佈了一項強大的解決方案:正式開源釋出了AI代理執行時環境OpenShell。該系統為長期執行的AI代理充當了“防火牆”,使企業能夠精確控制每一個AI操作,同時支援大規模自動化部署。
OpenShell的核心設計極為穩健:它為每個AI代理分配了一個物理隔離的沙箱環境,並且預設情況下這些代理沒有任何許可權。任何外部訪問、工具呼叫,以及針對雲模型的隱私資料脫敏操作,都需要經過細緻的政策授權才能執行。
與之配套的是Cisco的AI Defense安全平臺。雖然OpenShell規定了代理可以執行哪些操作,但AI Defense則確保這些操作真正得到執行。它會持續記錄代理的推理步驟和決策過程,驗證每一個技能呼叫是否透過了供應鏈安全審查。
這種分層的安全架構在現實世界中證明了其高效性。例如,當一家企業遭遇新的零日漏洞攻擊時:
內部AI代理會自動解析安全警告,並利用網路知識圖譜識別受影響的裝置。
整個複雜的分析和修復流程都在OpenShell沙箱環境中進行。
如果代理在修復過程中遇到了惡意指令注入——試圖竊取敏感配置資訊——AI Defense閘道器會立即阻斷這些可疑請求。
NVIDIA表示,這種架構旨在終結AI的“黑箱”特性。透過基礎設施級別的安全驗證,企業可以放心地將更復雜的自動化任務交給AI代理來處理,而無需擔心失去對系統的控制。OpenShell的開源釋出標誌著一個新階段的開始,在這個階段,大規模的企業級AI代理部署將“有法可依”。
相關文章
內部細節曝光:下一代 Gemini 算力緊張,內部團隊在開發優先順序和資源分配上存在分歧
報告顯示,谷歌備受期待的下一代 Gemini 模型釋出已被推遲。由於內部在開發優先順序和資源分配上存在分歧,加上計算能力有限以及複雜的審批流程,導致釋出時間延後了兩個月。儘管谷歌擁有定製的 TPU 晶片,但由於模型訓練、Google Cloud 服務以及眾多消費和企業級 AI 應用對計算資源的需求相互競爭,谷歌仍面臨計算資源短缺的問題。目前,高層管理人員正透過組織結構調整來解決這些部門間的衝突。與此同時,領導層也發生了變化,聯合創始人謝爾蓋·布林越來越多地參與到核心模型訓練中,並倡導將資源專門用於
OpenAI 否認增長放緩擔憂,稱多個業務部門加速發展
針對外界對其銷售增長放緩及未達內部基準的質疑,人工智慧領域的領軍企業 OpenAI 於 4 月 28 日(星期二)發表了一份信心十足的宣告。該公司澄清稱,其消費產品和企業服務正在快速推進,直接駁斥了近期關於業務放緩的猜測。針對該公司“未達成多項內部目標”的說法,OpenAI 將這些報道斥為“典型的標題黨”。公司強調了企業對 AI 整合的強勁需求,並指出其廣告業務早期增長前景良好。據 OpenAI 內部人士透露,公司內部情緒依然樂觀。儘管市場競爭日益激烈,但公司正在向投資者傳遞信心,聲稱其商業
阿里巴巴超級盃:Qwen3.8-Max 重磅登場,程式碼與辦公工具能力全面升級
阿里巴巴正式釋出了Qwen3.8-Max,這是一款擁有2.4萬億引數的下一代基礎大模型。這一重大AI進展在編碼和專業辦公任務等核心領域帶來了顯著的效能提升,展現了強大的技術能力。在權威的Arena大模型排名中,Qwen3.8-Max取得了令人矚目的成績,僅次於Anthropic的Claude系列,位居行業前列。這一里程碑標誌著國內大模型在處理複雜任務方面取得了快速進展,為開發者和企業使用者提供了先進的智慧工具。該模型的API現已在Qwen AI平臺上上線,並整合到新推出的“Qwen Offic
相關專題推薦
評論 (0)
0/500

隨著企業級AI代理從開發實驗室轉向核心業務運營,防止提示注入攻擊——這類攻擊可能導致AI“叛亂”或資料洩露——已成為開發者們最為關注的問題。
3月17日,NVIDIA和Cisco共同宣佈了一項強大的解決方案:正式開源釋出了AI代理執行時環境OpenShell。該系統為長期執行的AI代理充當了“防火牆”,使企業能夠精確控制每一個AI操作,同時支援大規模自動化部署。
OpenShell的核心設計極為穩健:它為每個AI代理分配了一個物理隔離的沙箱環境,並且預設情況下這些代理沒有任何許可權。任何外部訪問、工具呼叫,以及針對雲模型的隱私資料脫敏操作,都需要經過細緻的政策授權才能執行。
與之配套的是Cisco的AI Defense安全平臺。雖然OpenShell規定了代理可以執行哪些操作,但AI Defense則確保這些操作真正得到執行。它會持續記錄代理的推理步驟和決策過程,驗證每一個技能呼叫是否透過了供應鏈安全審查。
這種分層的安全架構在現實世界中證明了其高效性。例如,當一家企業遭遇新的零日漏洞攻擊時:
內部AI代理會自動解析安全警告,並利用網路知識圖譜識別受影響的裝置。
整個複雜的分析和修復流程都在OpenShell沙箱環境中進行。
如果代理在修復過程中遇到了惡意指令注入——試圖竊取敏感配置資訊——AI Defense閘道器會立即阻斷這些可疑請求。
NVIDIA表示,這種架構旨在終結AI的“黑箱”特性。透過基礎設施級別的安全驗證,企業可以放心地將更復雜的自動化任務交給AI代理來處理,而無需擔心失去對系統的控制。OpenShell的開源釋出標誌著一個新階段的開始,在這個階段,大規模的企業級AI代理部署將“有法可依”。
內部細節曝光:下一代 Gemini 算力緊張,內部團隊在開發優先順序和資源分配上存在分歧
報告顯示,谷歌備受期待的下一代 Gemini 模型釋出已被推遲。由於內部在開發優先順序和資源分配上存在分歧,加上計算能力有限以及複雜的審批流程,導致釋出時間延後了兩個月。儘管谷歌擁有定製的 TPU 晶片,但由於模型訓練、Google Cloud 服務以及眾多消費和企業級 AI 應用對計算資源的需求相互競爭,谷歌仍面臨計算資源短缺的問題。目前,高層管理人員正透過組織結構調整來解決這些部門間的衝突。與此同時,領導層也發生了變化,聯合創始人謝爾蓋·布林越來越多地參與到核心模型訓練中,並倡導將資源專門用於
OpenAI 否認增長放緩擔憂,稱多個業務部門加速發展
針對外界對其銷售增長放緩及未達內部基準的質疑,人工智慧領域的領軍企業 OpenAI 於 4 月 28 日(星期二)發表了一份信心十足的宣告。該公司澄清稱,其消費產品和企業服務正在快速推進,直接駁斥了近期關於業務放緩的猜測。針對該公司“未達成多項內部目標”的說法,OpenAI 將這些報道斥為“典型的標題黨”。公司強調了企業對 AI 整合的強勁需求,並指出其廣告業務早期增長前景良好。據 OpenAI 內部人士透露,公司內部情緒依然樂觀。儘管市場競爭日益激烈,但公司正在向投資者傳遞信心,聲稱其商業
阿里巴巴超級盃:Qwen3.8-Max 重磅登場,程式碼與辦公工具能力全面升級
阿里巴巴正式釋出了Qwen3.8-Max,這是一款擁有2.4萬億引數的下一代基礎大模型。這一重大AI進展在編碼和專業辦公任務等核心領域帶來了顯著的效能提升,展現了強大的技術能力。在權威的Arena大模型排名中,Qwen3.8-Max取得了令人矚目的成績,僅次於Anthropic的Claude系列,位居行業前列。這一里程碑標誌著國內大模型在處理複雜任務方面取得了快速進展,為開發者和企業使用者提供了先進的智慧工具。該模型的API現已在Qwen AI平臺上上線,並整合到新推出的“Qwen Offic





首頁






