該計劃很可能將籌集900萬美元的資金,用於打造更可靠的AI系統。

儘管大語言模型的能力不斷提升,幻覺問題依然是一個長期存在的挑戰。即便是最先進的模型也會產生錯誤,雖然已有檢測方法存在,但整個行業仍在不斷最佳化最佳解決方案。
Recently獲得了Andreessen Horowitz 900萬美元種子輪融資的Probably公司,旨在開發一種更為可靠的錯誤檢測方法。
該公司創始人Peter Elias(見上圖)表示,公司的使命是防止幻覺和事實性錯誤傳遞給使用者,力求達到確定性系統通常所具備的99.99%準確率——這一水平對人工智慧而言極為難以實現。他指出,若要用大語言模型達成這一目標,就必須重新思考人工智慧工程領域的核心假設。
Probably的初始產品是一款資料科學工具,可用於從複雜資料集中快速生成答案。每個結果都會附帶引用資訊以及其推導過程的審計軌跡,這種做法正逐漸成為人工智慧工具的標準配置。
為避免錯誤混入這些總結內容中,該公司構建了一套複雜的約束系統,Elias將其稱為“資料科學機械戰衣”。大語言模型的初始響應會由一個確定性系統進行驗證,任何與資料集不一致的結果都會被剔除。據該公司介紹,該大語言模型已針對這一驗證器進行了訓練,整個系統也在持續最佳化,以提升速度和準確率。
“我們發現,約束系統的設計越完善,模型所需的算力就越低,”Elias說道,“如果能夠充分最佳化上下文,模型就不必費力去生成正確結果。歸根結底,這是為了減少歧義。”
正因如此,Probably的資料科學工具即便使用規模更小的人工智慧模型也能正常執行。Elias指出,當前版本使用的模型“比最先進的模型弱四個層級”,因此可以在本地硬體——即普通桌上型電腦而非資料中心——上執行,從而大幅降低與人工智慧使用相關的Token成本。
在Token成本不斷上升、許多客戶都在重新評估其人工智慧預算的當下,這種方案顯得尤為及時。Elias的願景不僅限於資料科學領域;同樣的技術架構還可以應用於會計或醫療服務等場景——用他的話來說,就是“任何對精度要求較高的應用場景”。
“令人驚訝的是,各大人工智慧實驗室甚至都沒有嘗試過這種方法,”Elias說道,“他們沒有動力去這麼做,因為重複修正的需求正是他們的盈利來源。”
相關文章
OpenAI 邀請數學專家擔任外部顧問,以強化人工智慧評估
週一,OpenAI 宣布成立一個由普林斯頓高等研究院支持的「數學與人工智慧諮詢小組」。這項計畫旨在整合數學界的見解,以評估該公司的數學研究並提供建議。 首屆諮詢小組由九位數學家組成,他們將擔任數學界與公眾之間的橋樑,評估 OpenAI 近期突破性成果的學術價值,並協調相關論文的發表。此舉緊接在 OpenAI 近期宣布解決「納維-斯托克斯方程」——一項千禧年大獎難題——之後。該公司還透露,其內部模型
Manus 故事展開:當前正在發生什麼
美國和中國正在激烈競爭,以開發世界上最先進的人工智慧。北京正投入數十億美元用於國內模型,加強對科技行業的管控,並密切監控中國頂尖人工智慧人才流向美國公司的趨勢。卡內基國際和平基金會2023年底的一項研究顯示,2019年在美國機構任職的前100名中國頂尖人工智慧研究人員中,有87人仍留在美國。儘管存在這一背景,一家備受矚目的中國人工智慧初創公司Manus悄然將業務遷至新加坡,並被Meta以20億美元收購。幾乎沒有觀察者質疑這一合作的影響。正如行業專家所知,Manus在去年春天因一段演示影片而受
高通推出新計畫,以加速個人人工智慧裝置的開發,而智慧眼鏡已成為首批受惠者
全球半導體龍頭高通(Qualcomm)於 2026 年 AWE USA 大會上正式推出「Snapdragon START」。這套可擴展的一站式 AI 就緒工具包,能協助品牌以更快的速度和更大的靈活性推出創新的個人 AI 裝置,打破硬體限制,並加速消費級 AI 硬體市場的發展。這些高度整合的模組以高通驍龍平台為核心,提供頂級的運算、連線能力及本地 AI 處理功能。透過將這些功能嵌入緊湊型穿戴式裝置中
相關專題推薦
評論 (0)
0/500

儘管大語言模型的能力不斷提升,幻覺問題依然是一個長期存在的挑戰。即便是最先進的模型也會產生錯誤,雖然已有檢測方法存在,但整個行業仍在不斷最佳化最佳解決方案。
Recently獲得了Andreessen Horowitz 900萬美元種子輪融資的Probably公司,旨在開發一種更為可靠的錯誤檢測方法。
該公司創始人Peter Elias(見上圖)表示,公司的使命是防止幻覺和事實性錯誤傳遞給使用者,力求達到確定性系統通常所具備的99.99%準確率——這一水平對人工智慧而言極為難以實現。他指出,若要用大語言模型達成這一目標,就必須重新思考人工智慧工程領域的核心假設。
Probably的初始產品是一款資料科學工具,可用於從複雜資料集中快速生成答案。每個結果都會附帶引用資訊以及其推導過程的審計軌跡,這種做法正逐漸成為人工智慧工具的標準配置。
為避免錯誤混入這些總結內容中,該公司構建了一套複雜的約束系統,Elias將其稱為“資料科學機械戰衣”。大語言模型的初始響應會由一個確定性系統進行驗證,任何與資料集不一致的結果都會被剔除。據該公司介紹,該大語言模型已針對這一驗證器進行了訓練,整個系統也在持續最佳化,以提升速度和準確率。
“我們發現,約束系統的設計越完善,模型所需的算力就越低,”Elias說道,“如果能夠充分最佳化上下文,模型就不必費力去生成正確結果。歸根結底,這是為了減少歧義。”
正因如此,Probably的資料科學工具即便使用規模更小的人工智慧模型也能正常執行。Elias指出,當前版本使用的模型“比最先進的模型弱四個層級”,因此可以在本地硬體——即普通桌上型電腦而非資料中心——上執行,從而大幅降低與人工智慧使用相關的Token成本。
在Token成本不斷上升、許多客戶都在重新評估其人工智慧預算的當下,這種方案顯得尤為及時。Elias的願景不僅限於資料科學領域;同樣的技術架構還可以應用於會計或醫療服務等場景——用他的話來說,就是“任何對精度要求較高的應用場景”。
“令人驚訝的是,各大人工智慧實驗室甚至都沒有嘗試過這種方法,”Elias說道,“他們沒有動力去這麼做,因為重複修正的需求正是他們的盈利來源。”
OpenAI 邀請數學專家擔任外部顧問,以強化人工智慧評估
週一,OpenAI 宣布成立一個由普林斯頓高等研究院支持的「數學與人工智慧諮詢小組」。這項計畫旨在整合數學界的見解,以評估該公司的數學研究並提供建議。 首屆諮詢小組由九位數學家組成,他們將擔任數學界與公眾之間的橋樑,評估 OpenAI 近期突破性成果的學術價值,並協調相關論文的發表。此舉緊接在 OpenAI 近期宣布解決「納維-斯托克斯方程」——一項千禧年大獎難題——之後。該公司還透露,其內部模型
Manus 故事展開:當前正在發生什麼
美國和中國正在激烈競爭,以開發世界上最先進的人工智慧。北京正投入數十億美元用於國內模型,加強對科技行業的管控,並密切監控中國頂尖人工智慧人才流向美國公司的趨勢。卡內基國際和平基金會2023年底的一項研究顯示,2019年在美國機構任職的前100名中國頂尖人工智慧研究人員中,有87人仍留在美國。儘管存在這一背景,一家備受矚目的中國人工智慧初創公司Manus悄然將業務遷至新加坡,並被Meta以20億美元收購。幾乎沒有觀察者質疑這一合作的影響。正如行業專家所知,Manus在去年春天因一段演示影片而受
高通推出新計畫,以加速個人人工智慧裝置的開發,而智慧眼鏡已成為首批受惠者
全球半導體龍頭高通(Qualcomm)於 2026 年 AWE USA 大會上正式推出「Snapdragon START」。這套可擴展的一站式 AI 就緒工具包,能協助品牌以更快的速度和更大的靈活性推出創新的個人 AI 裝置,打破硬體限制,並加速消費級 AI 硬體市場的發展。這些高度整合的模組以高通驍龍平台為核心,提供頂級的運算、連線能力及本地 AI 處理功能。透過將這些功能嵌入緊湊型穿戴式裝置中





首頁






