Patronus AI獲5000萬美元融資,用於構建數字孿生世界以對AI智慧體進行壓力測試

隨著人工智慧智慧體從基礎的問答互動逐步發展為能夠執行復雜多步驟任務的自主智慧體,確保其在現實環境中的穩定表現已成為行業關注的重點。近期,初創公司Patronus AI 宣佈完成5000萬美元的B輪融資,至此其累計融資額已達7000萬美元。
Patronus AI由前Meta AI研究人員Anand Kannappan和Rebecca Qian於2023年創立,致力於為人工智慧智慧體構建高度逼真的數字世界。這一做法與Waymo為自動駕駛汽車建立虛擬訓練場景的思路類似,透過模擬罕見且複雜的邊緣情況,對人工智慧智慧體進行嚴格的壓力測試。
在當前的人工智慧開發過程中,模型開發者通常依靠基準測試來展示效能,但這些分數無法完全體現人工智慧處理複雜現實任務的能力。智慧體可能會選擇走捷徑,而非真正解決問題。Patronus AI則透過構建虛擬環境,並在模型訓練完成後對其進行強化學習測試來解決這一問題。該系統會針對成功完成任務的行為給予獎勵,同時對作弊或錯誤操作進行懲罰,從而確保模型在不可預測的現實環境中依然具備強大的穩定性。
目前,Patronus AI的服務已涵蓋軟體工程和金融分析領域。其客戶群體包括幾乎所有頂尖的人工智慧實驗室以及新興初創企業,過去一年的營收增長了15倍。Notable Capital的董事Glenn Solomon指出,對於此類高保真測試環境的需求已經近乎“供不應求”。
儘管Patronus AI目前主要專注於可驗證的任務場景,但其創始人Kannappan表示這僅僅是個開始。他們的目標是構建更復雜的測試環境,讓智慧體能夠在保持合規性與準確性的前提下,連續執行10小時、10天甚至更長時間。本輪融資由Greenfield Partners領投,Notable Capital、Lightspeed、Datadog和三星也參與了投資,這體現了資本市場對人工智慧“質量檢測”領域的強烈興趣。
相關文章
OpenAI 推出支援 128K 上下文的隱私過濾器,具備八種識別模式
OpenAI 推出了 隱私過濾器(Privacy Filter),這是一款最先進的個人身份資訊(PII)匿名化模型。該工具現已在 Hugging Face 和 GitHub 上以 Apache 2.0 許可證 開放,為開發者提供了一種本地化、高度可定製的解決方案,以實現強大的隱私保護。超越基於規則匹配的先進語義理解與傳統的基於規則的工具不同,隱私過濾器利用深層語言理解能力,根據上下文準確識別非結構化文字中的敏感資料。這種方法在最大程度保留公共內容實用性的同時,有效地隱藏了私人資訊。輕量級 MoE
NewCore 籌集 6600 萬美元,為 AI 代理配備身份,使其逐步承擔員工角色
網路安全初創公司 NewCore 正式結束低調運營期,於週一宣佈獲得 6600 萬美元融資。該公司旨在解決一個許多組織在整合 AI 智慧體時將面臨的嚴峻挑戰:如何大規模地對這些數字員工進行身份認證、治理和控制。本輪種子輪融資由專注於網路安全的風險投資公司 Cyberstarts 領投,Index Ventures 和 Evolution Equity Partners 等機構跟投。融資完成後,NewCore 的估值達到 3 億美元。各組織越來越將 AI 智慧體視為職場中的活躍參與者,而非僅僅
微軟與 Mistral 簽署價值數十億美元的歐洲人工智慧合作協議
此次合作的核心是一項價值數十億美元的協議,旨在強化全歐洲的人工智慧基礎設施。圖片來源:微軟微軟與法國領先的人工智慧公司 Mistral 共同宣布了一項價值數十億美元的合作夥伴關係,旨在強化歐洲的人工智慧生態系。微軟與法國先進大型語言模型開發商 Mistral 宣布達成一項新協議,旨在擴展歐洲境內的人工智慧基礎設施。這項協議標誌著雙方現有合作關係的重大擴展,同時也將使 Mistral 的人工智慧模型
相關專題推薦
評論 (0)
0/500

隨著人工智慧智慧體從基礎的問答互動逐步發展為能夠執行復雜多步驟任務的自主智慧體,確保其在現實環境中的穩定表現已成為行業關注的重點。近期,初創公司
Patronus AI由前Meta AI研究人員Anand Kannappan和Rebecca Qian於2023年創立,致力於為人工智慧智慧體構建高度逼真的數字世界。這一做法與Waymo為自動駕駛汽車建立虛擬訓練場景的思路類似,透過模擬罕見且複雜的邊緣情況,對人工智慧智慧體進行嚴格的壓力測試。
在當前的人工智慧開發過程中,模型開發者通常依靠基準測試來展示效能,但這些分數無法完全體現人工智慧處理複雜現實任務的能力。智慧體可能會選擇走捷徑,而非真正解決問題。Patronus AI則透過構建虛擬環境,並在模型訓練完成後對其進行強化學習測試來解決這一問題。該系統會針對成功完成任務的行為給予獎勵,同時對作弊或錯誤操作進行懲罰,從而確保模型在不可預測的現實環境中依然具備強大的穩定性。
目前,Patronus AI的服務已涵蓋軟體工程和金融分析領域。其客戶群體包括幾乎所有頂尖的人工智慧實驗室以及新興初創企業,過去一年的營收增長了15倍。Notable Capital的董事Glenn Solomon指出,對於此類高保真測試環境的需求已經近乎“供不應求”。
儘管Patronus AI目前主要專注於可驗證的任務場景,但其創始人Kannappan表示這僅僅是個開始。他們的目標是構建更復雜的測試環境,讓智慧體能夠在保持合規性與準確性的前提下,連續執行10小時、10天甚至更長時間。本輪融資由Greenfield Partners領投,Notable Capital、Lightspeed、Datadog和三星也參與了投資,這體現了資本市場對人工智慧“質量檢測”領域的強烈興趣。
OpenAI 推出支援 128K 上下文的隱私過濾器,具備八種識別模式
OpenAI 推出了 隱私過濾器(Privacy Filter),這是一款最先進的個人身份資訊(PII)匿名化模型。該工具現已在 Hugging Face 和 GitHub 上以 Apache 2.0 許可證 開放,為開發者提供了一種本地化、高度可定製的解決方案,以實現強大的隱私保護。超越基於規則匹配的先進語義理解與傳統的基於規則的工具不同,隱私過濾器利用深層語言理解能力,根據上下文準確識別非結構化文字中的敏感資料。這種方法在最大程度保留公共內容實用性的同時,有效地隱藏了私人資訊。輕量級 MoE
NewCore 籌集 6600 萬美元,為 AI 代理配備身份,使其逐步承擔員工角色
網路安全初創公司 NewCore 正式結束低調運營期,於週一宣佈獲得 6600 萬美元融資。該公司旨在解決一個許多組織在整合 AI 智慧體時將面臨的嚴峻挑戰:如何大規模地對這些數字員工進行身份認證、治理和控制。本輪種子輪融資由專注於網路安全的風險投資公司 Cyberstarts 領投,Index Ventures 和 Evolution Equity Partners 等機構跟投。融資完成後,NewCore 的估值達到 3 億美元。各組織越來越將 AI 智慧體視為職場中的活躍參與者,而非僅僅
微軟與 Mistral 簽署價值數十億美元的歐洲人工智慧合作協議
此次合作的核心是一項價值數十億美元的協議,旨在強化全歐洲的人工智慧基礎設施。圖片來源:微軟微軟與法國領先的人工智慧公司 Mistral 共同宣布了一項價值數十億美元的合作夥伴關係,旨在強化歐洲的人工智慧生態系。微軟與法國先進大型語言模型開發商 Mistral 宣布達成一項新協議,旨在擴展歐洲境內的人工智慧基礎設施。這項協議標誌著雙方現有合作關係的重大擴展,同時也將使 Mistral 的人工智慧模型





首頁






