TensorZero 獲得 730 萬美元種子基金以簡化企業 LLM 開發

TensorZero 是一家新興的人工智能應用程式開放原始碼基礎設施供應商，已獲得 730 萬美元的種子資金，由 FirstMark Capital 領投，Bessemer Venture Partners、Bedrock、DRW、Coalition 及眾多業界天使投資人參與。

TensorZero 的 GitHub 資源庫在近幾個月內獲得全球「第一熱門」的地位，同時星級數從 3,000 個增加到 9,700 多個，幾乎增加了兩倍。這種快速的發展反映出企業在部署生產級 AI 解決方案時所面臨的挑戰與日俱增。

解決 AI 基礎架構缺口

FirstMark 的 Matt Turck 指出："雖然企業對人工智能應用的興趣正在激增，但卻缺乏強大的工具來滿足複雜的實施需求。TensorZero 提供開箱即用的企業級元件。

這家位於布魯克林的新創公司解決了大型語言模型 (LLM) 規模部署的關鍵痛點，目前整合模型存取、監控和最佳化需要將不同的解決方案拼湊在一起。

從核聚變到 AI 優化

TensorZero 的技術基礎來自於共同創辦人 Viraj Mehta 在卡內基梅隆大學的核聚變博士研究。在能源部的專案中，每個五秒測量的資料收集成本高達 30,000 美元，因此 Mehta 開發了強化學習方法，以最大化每個資料點的價值。

"Mehta 解釋說：「這種稀缺性思維直接影響了我們的平台架構。「就像融合研究一樣，有效的人工智能實施需要戰略性的數據利用，以持續改進系統」。

這個觀點促成了 TensorZero 的核心創新：將 LLM 應用程式視為強化學習問題，在此問題中，系統透過結構化的回饋不斷演進。

企業級 AI 統一平台

與目前需要整合多個廠商的零散方法不同，TensorZero 將模型管理、可觀測性與最佳化結合為單一的開放原始碼堆疊，旨在發揮協同效應。

"現有的解決方案迫使公司將各種獨立的工具拼湊在一起，而這些工具並不是為了一起工作而設計的，」共同創辦人 Gabriel Bianconi（分散式金融專案 Ondo Finance 的前 CPO）表示。"我們正在建立整合式基礎架構，以創造持續改善的循環。

以 Rust 為基礎的平台在每秒處理超過 10,000 次查詢的同時，還能達到幾毫秒的延遲，大幅超越以 Python 為基礎的其他平台。

企業加速採用

商業應用的發展相當顯著，實作範圍包括

• 一家歐洲頂級銀行自動化程式碼文件
• 橫跨醫療保健、金融和消費性科技的 A/B 系列 AI 創業公司
• 需要內部部署以符合資料法規的企業

技術差異

TensorZero 與 LangChain 等框架的差異在於

• 端對端生產準備就緒，而非專注於原型設計
• 結構化的資料收集可進行進階優化
• 規模化的企業級效能
• 開放原始碼基礎可減緩廠商鎖定

未來路線圖

種子資金將加速

• 開放原始碼平台開發
• 在紐約擴展團隊
• 為複雜的優化任務提供管理服務
• 加速人工智能實驗的研究工具

"Mehta 表示：「我們的願景是創造一個自我強化的改善循環。「隨著人工智能處理越來越複雜的工作流程，我們必須在真實世界的環境中評估性能，而不是孤立地進行評估。」

憑藉其 GitHub 的動力和早期企業的追捧，TensorZero 定位於解決企業從 AI 試驗過渡到營運部署時的關鍵基礎設施缺口。