開放的小語言模型，用於負責任的，實用的AI

地緣政治對AI開發和使用的影響

隨著全球事件繼續塑造我們的世界，它們不可避免地會影響技術領域，尤其是AI市場。這種影響擴展到了AI的開發方式，其方法及其在企業中的應用。 AI的當前景觀是興奮和懷疑的混合體，有些人擁抱了它的潛力，而其他人則由於其發展的早期階段而保持謹慎。

像知名提供者一樣，傳統的閉環大語模型（LLM）正面臨著更新，更開放的模型，例如Llama，DeepSeek和Baidu的Ernie X1。相反，開源開發為社區貢獻提供了透明度和機會，與“負責人AI”的概念保持一致。這種方法考慮了與數據主權，語言和政治相關的環境影響，使用倫理，學習數據源以及問題。

Red Hat是一家以其成功的開源業務模型而聞名的公司，他熱衷於將其協作和透明的方法應用於AI。在與EMEA的Red Hat的CTO的Julio Guijarro的最近對話中，我們討論了他們以一種以負責任和可持續的方式為企業增值的方式來利用生成AI的力量。

需要教育和透明度

朱利奧（Julio）強調需要在AI周圍進行更多的教育，並指出其複雜的性質通常使其成為許多人的“黑匣子”。他說：“ AI的內部運作根植於復雜的科學和數學，在很大程度上尚不清楚。” “當AI在封閉的環境中發展時，這種缺乏透明度會加劇。”

其他挑戰包括某些語言的代表性不足，數據主權問題和信任問題。朱利奧指出：“數據是組織最有價值的資產，企業必須意識到將敏感數據暴露於具有不同隱私政策的公共平台的風險。”

紅帽的AI方法

紅帽對全球對AI的需求的反應集中在為最終用戶提供福利，同時解決與傳統AI服務相關的疑問和局限性。朱利奧（Julio）強調了小語言模型（SLM）作為解決方案的潛力。這些模型可以使用非專家硬件在本地或混合雲上運行，並可以訪問本地業務數據。 SLM是高效且特定於任務的，比LLMS需要更少的資源。

SLM的關鍵優勢之一是它們能夠通過快速變化的業務數據保持最新狀態。朱利奧解釋說：“大型語言模型可能會很快過時，因為數據生成發生在大雲之外，就在您的業務流程旁邊。”

成本是另一個關鍵因素。朱利奧說：“使用LLM的客戶服務查詢可以產生巨大的隱藏成本。” “在AI之前，數據查詢具有可預測的範圍和成本。使用LLMS，每種互動都可以升級成本，因為它們是在迭代模型上運行的。運行模型在本地上可以更大地控製成本，因為它們與您的基礎架構息息相關，而不是每量費用。”

幸運的是，組織無需大量投資於GPU等專業硬件。 Red Hat正在努力優化模型以在標準硬件上運行，重點關注企業所需的特定模型，而不是在每個查詢中處理大型通用數據集。

較小的本地化模型的重要性

通過使用和引用本地數據，可以根據特定需求量身定制結果。朱利奧（Julio）參考了以英語為中心的LLMS良好服務的阿拉伯語和葡萄牙世界等地區的項目。

LLMS存在實際挑戰，包括可能影響時間敏感或面向客戶的應用程序的延遲問題。將資源和結果保持在接近用戶可以減輕這些問題。

信任是負責人AI的另一個關鍵方面。紅帽倡導開放平台，工具和模型，以提高透明度並允許更廣泛的社區參與。朱利奧說：“這對每個人都至關重要。” “我們正在建立使AI民主化的能力，不僅是通過發布模型，還為用戶提供了複製，調整和為其服務的工具。”

Red Hat最近對神經魔術的收購旨在幫助企業更輕鬆地擴展AI，提高推理性能，並通過VLLM項目在構建和部署AI工作負載方面提供更多選擇。此外，與IBM Research合作，Red Hat發行了TerchandLab，向擁有寶貴商業知識的非DATA科學家開放AI開發。

AI的未來

儘管對AI泡沫有很多猜測，但Red Hat相信未來AI是針對特定用例量身定制並保持開源的。這種方法將在經濟上可行，所有人都可以使用。正如紅帽首席執行官馬特·希克斯（Matt Hicks）所說：“ AI的未來是開放的。”