開放的小語言模型，用於負責任的，實用的AI

地緣政治對AI發展與應用的影響

隨著全球事件的持續塑造我們的世界的，這些事件無可避免地影響科技行業，特別是AI市場。這種影響延伸至AI的開發方式、方法論及其在企業中的應用。當前的AI格局充滿了興奮與懷疑，有些人擁抱其潛力，而其他人則因其早期發展階段而保持謹慎。

傳統的閉環大規模語言模型（LLMs），如來自知名供應商的模型，正面臨來自較新、較開放的模型如Llama、DeepSeek及百度Ernie X1的競爭。相較之下，開源開發提供了透明度及社群貢獻的機會，符合「負責任AI」的理念。這種方法考慮了環境影響、使用倫理、學習數據來源以及數據主權、語言和政治相關問題。

Red Hat，一家以成功開源商業模式聞名的公司，熱衷於將其協作與透明的方法應用於AI。在最近與Red Hat EMEA首席技術官Julio Guijarro的對話中，我們討論了他們如何以負責任且可持續的方式利用生成式AI的潛力，為企業增加價值。

教育與透明度的需求

Julio強調了對AI教育的需求，指出其複雜性質常常使其對許多人來說像個「黑盒子」。他說：「AI的內部運作深植於複雜的科學與數學之中，大多數人對此知之甚少。」「當AI在封閉環境中開發時，這種缺乏透明度的問題更加嚴重。」

其他挑戰包括某些語言的代表性不足、數據主權問題以及信任問題。Julio指出：「數據是組織最寶貴的資產，企業必須意識到將敏感數據暴露於具有不同隱私政策的公共平台所帶來的風險。」

Red Hat的AI策略

Red Hat對全球AI需求的回應專注於為最終用戶提供利益，同時解決與傳統AI服務相關的疑慮與限制。Julio強調了小型語言模型（SLMs）的潛力，這些模型可以在本地或混合雲上運行，使用非專業硬體，並能存取本地商業數據。SLMs高效且針對特定任務，所需資源比LLMs少。

SLMs的關鍵優勢之一是能夠跟上快速變化的商業數據。Julio解釋說：「大型語言模型可能很快過時，因為數據生成發生在大規模雲端之外，就在您的業務流程旁邊。」

成本是另一個關鍵因素。Julio說：「使用LLM的客戶服務查詢可能會產生顯著的隱藏成本。」「在AI之前，數據查詢的範圍和成本是可預測的。使用LLMs，每次互動都可能因其迭代模型而增加成本。在本地運行模型可以更好地控制成本，因為它們與您的基礎設施相關，而不是按查詢計費。」

幸運的是，組織無需大量投資於GPU等專業硬體。Red Hat正致力於優化模型以在標準硬體上運行，專注於企業所需的特定模型，而不是處理每次查詢的大型通用數據集。

小型、局部模型的重要性

通過使用和參考本地數據，結果可以針對特定需求進行定制。Julio提到了在阿拉伯語和葡萄牙語等地區的項目，這些地區未被以英語為中心的大型語言模型充分服務。

大型語言模型存在實際挑戰，包括可能影響時間敏感或面向客戶應用的延遲問題。將資源和結果保持在用戶附近可以緩解這些問題。

信任是負責任AI的另一個關鍵面向。Red Hat提倡開放平台、工具和模型，以增加透明度並允許更廣泛的社群參與。Julio表示：「這對每個人都至關重要。」「我們正在構建能力來民主化AI，不僅是通過發布模型，而是提供工具讓用戶複製、調整和服務這些模型。」

Red Hat最近收購Neural Magic，旨在幫助企業更輕鬆地擴展AI、提高推理性能，並通過vLLM項目提供更多構建和部署AI工作負載的選擇。此外，Red Hat與IBM Research合作發布了InstructLab，將AI開發開放給擁有寶貴商業知識的非數據科學家。

AI的未來

儘管對AI泡沫存在許多猜測，Red Hat相信未來的AI將針對特定用例進行定制並保持開源。這種方法將在經濟上可行並對所有人可及。正如Red Hat首席執行官Matt Hicks所說：「AI的未來是開放的。」