開放的小語言模型,用於負責任的,實用的AI
地緣政治對AI發展與應用的影響
隨著全球事件的持續塑造我們的世界的,這些事件無可避免地影響科技行業,特別是AI市場。這種影響延伸至AI的開發方式、方法論及其在企業中的應用。當前的AI格局充滿了興奮與懷疑,有些人擁抱其潛力,而其他人則因其早期發展階段而保持謹慎。
傳統的閉環大規模語言模型(LLMs),如來自知名供應商的模型,正面臨來自較新、較開放的模型如Llama、DeepSeek及百度Ernie X1的競爭。相較之下,開源開發提供了透明度及社群貢獻的機會,符合「負責任AI」的理念。這種方法考慮了環境影響、使用倫理、學習數據來源以及數據主權、語言和政治相關問題。
Red Hat,一家以成功開源商業模式聞名的公司,熱衷於將其協作與透明的方法應用於AI。在最近與Red Hat EMEA首席技術官Julio Guijarro的對話中,我們討論了他們如何以負責任且可持續的方式利用生成式AI的潛力,為企業增加價值。
教育與透明度的需求
Julio強調了對AI教育的需求,指出其複雜性質常常使其對許多人來說像個「黑盒子」。他說:「AI的內部運作深植於複雜的科學與數學之中,大多數人對此知之甚少。」「當AI在封閉環境中開發時,這種缺乏透明度的問題更加嚴重。」
其他挑戰包括某些語言的代表性不足、數據主權問題以及信任問題。Julio指出:「數據是組織最寶貴的資產,企業必須意識到將敏感數據暴露於具有不同隱私政策的公共平台所帶來的風險。」
Red Hat的AI策略
Red Hat對全球AI需求的回應專注於為最終用戶提供利益,同時解決與傳統AI服務相關的疑慮與限制。Julio強調了小型語言模型(SLMs)的潛力,這些模型可以在本地或混合雲上運行,使用非專業硬體,並能存取本地商業數據。SLMs高效且針對特定任務,所需資源比LLMs少。
SLMs的關鍵優勢之一是能夠跟上快速變化的商業數據。Julio解釋說:「大型語言模型可能很快過時,因為數據生成發生在大規模雲端之外,就在您的業務流程旁邊。」
成本是另一個關鍵因素。Julio說:「使用LLM的客戶服務查詢可能會產生顯著的隱藏成本。」「在AI之前,數據查詢的範圍和成本是可預測的。使用LLMs,每次互動都可能因其迭代模型而增加成本。在本地運行模型可以更好地控制成本,因為它們與您的基礎設施相關,而不是按查詢計費。」
幸運的是,組織無需大量投資於GPU等專業硬體。Red Hat正致力於優化模型以在標準硬體上運行,專注於企業所需的特定模型,而不是處理每次查詢的大型通用數據集。
小型、局部模型的重要性
通過使用和參考本地數據,結果可以針對特定需求進行定制。Julio提到了在阿拉伯語和葡萄牙語等地區的項目,這些地區未被以英語為中心的大型語言模型充分服務。
大型語言模型存在實際挑戰,包括可能影響時間敏感或面向客戶應用的延遲問題。將資源和結果保持在用戶附近可以緩解這些問題。
信任是負責任AI的另一個關鍵面向。Red Hat提倡開放平台、工具和模型,以增加透明度並允許更廣泛的社群參與。Julio表示:「這對每個人都至關重要。」「我們正在構建能力來民主化AI,不僅是通過發布模型,而是提供工具讓用戶複製、調整和服務這些模型。」
Red Hat最近收購Neural Magic,旨在幫助企業更輕鬆地擴展AI、提高推理性能,並通過vLLM項目提供更多構建和部署AI工作負載的選擇。此外,Red Hat與IBM Research合作發布了InstructLab,將AI開發開放給擁有寶貴商業知識的非數據科學家。
AI的未來
儘管對AI泡沫存在許多猜測,Red Hat相信未來的AI將針對特定用例進行定制並保持開源。這種方法將在經濟上可行並對所有人可及。正如Red Hat首席執行官Matt Hicks所說:「AI的未來是開放的。」
相關文章
中國電信投資綿比智能,為大型語言模型與數據基礎設施籌集資金至71.3萬元
在大模型領域,這支「國家隊」與清華大學的領軍人物正深化戰略合作。 根據企查查最新企業登記資料顯示,2026年3月1日,北京綿比智能科技有限公司進行了重大股權重組,正式引入電信巨頭及產業基金的投資。此舉不僅是資本注入,更預示著國內大型模型在公共數據平台及智慧硬體領域的商業化進程將大幅加速。重點摘要:電信與本土基金雙重背書此次股權變更後,面壁智能的股東陣容新增了數家重要機構:中國電信全資投資:新股東「
陶天集團加速推進 AI 原生轉型,並向實習生發放免費代幣配額
TaoTian Group 近期推出「AI 生產力計畫」,旨在透過資源配置與工具補助,加速將 AI 技術整合至電商營運及研發工作流程中。此計畫現已開放給所有實習生,讓他們在實習期間享有與正式員工相同的 AI 權限、運算配額及審批流程。自 3 月 17 日起,淘天集團員工已獲授權免費使用多款付費 AI 工具,包括「悟空」及「Qoder」系列。這些工具支援廣泛的應用場景,從基礎技術研發到一般辦公室生產
Glean 瞄準企業 AI 基礎設施市場,展開搶佔先機之舉
企業人工智慧主導權的競爭正加速進行。微軟正將 Copilot 整合至 Office,Google 則將 Gemini 整合至 Workspace,而 OpenAI 和 Anthropic 兩家企業也正直接向企業銷售服務。與此同時,如今幾乎每家 SaaS 供應商都已內建人工智慧助理。在各方爭相掌控使用者介面的熱潮中,Glean 卻採取了一種較不顯眼的策略:成為底層的智慧層。七年前,Glean 最初定
相關專題推薦
評論 (14)
0/500
이 논의는 사실이네요. 실제로 우리 회사에서도 AI 배포 시 지역 규제 때문에 모델을 커스터마이징해야 했어요. 오픈소스 소형 언어 모델이 더 유연한 솔루션이 될 수 있을 것 같아요. 특히 데이터 프라이버시가 중요한 경우에는요. 레드햇의 접근 방식이 현실적인 문제에 잘 맞는 것 같아요 👍
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟
地緣政治對AI發展與應用的影響
隨著全球事件的持續塑造我們的世界的,這些事件無可避免地影響科技行業,特別是AI市場。這種影響延伸至AI的開發方式、方法論及其在企業中的應用。當前的AI格局充滿了興奮與懷疑,有些人擁抱其潛力,而其他人則因其早期發展階段而保持謹慎。
傳統的閉環大規模語言模型(LLMs),如來自知名供應商的模型,正面臨來自較新、較開放的模型如Llama、DeepSeek及百度Ernie X1的競爭。相較之下,開源開發提供了透明度及社群貢獻的機會,符合「負責任AI」的理念。這種方法考慮了環境影響、使用倫理、學習數據來源以及數據主權、語言和政治相關問題。
Red Hat,一家以成功開源商業模式聞名的公司,熱衷於將其協作與透明的方法應用於AI。在最近與Red Hat EMEA首席技術官Julio Guijarro的對話中,我們討論了他們如何以負責任且可持續的方式利用生成式AI的潛力,為企業增加價值。
教育與透明度的需求
Julio強調了對AI教育的需求,指出其複雜性質常常使其對許多人來說像個「黑盒子」。他說:「AI的內部運作深植於複雜的科學與數學之中,大多數人對此知之甚少。」「當AI在封閉環境中開發時,這種缺乏透明度的問題更加嚴重。」
其他挑戰包括某些語言的代表性不足、數據主權問題以及信任問題。Julio指出:「數據是組織最寶貴的資產,企業必須意識到將敏感數據暴露於具有不同隱私政策的公共平台所帶來的風險。」
Red Hat的AI策略
Red Hat對全球AI需求的回應專注於為最終用戶提供利益,同時解決與傳統AI服務相關的疑慮與限制。Julio強調了小型語言模型(SLMs)的潛力,這些模型可以在本地或混合雲上運行,使用非專業硬體,並能存取本地商業數據。SLMs高效且針對特定任務,所需資源比LLMs少。
SLMs的關鍵優勢之一是能夠跟上快速變化的商業數據。Julio解釋說:「大型語言模型可能很快過時,因為數據生成發生在大規模雲端之外,就在您的業務流程旁邊。」
成本是另一個關鍵因素。Julio說:「使用LLM的客戶服務查詢可能會產生顯著的隱藏成本。」「在AI之前,數據查詢的範圍和成本是可預測的。使用LLMs,每次互動都可能因其迭代模型而增加成本。在本地運行模型可以更好地控制成本,因為它們與您的基礎設施相關,而不是按查詢計費。」
幸運的是,組織無需大量投資於GPU等專業硬體。Red Hat正致力於優化模型以在標準硬體上運行,專注於企業所需的特定模型,而不是處理每次查詢的大型通用數據集。
小型、局部模型的重要性
通過使用和參考本地數據,結果可以針對特定需求進行定制。Julio提到了在阿拉伯語和葡萄牙語等地區的項目,這些地區未被以英語為中心的大型語言模型充分服務。
大型語言模型存在實際挑戰,包括可能影響時間敏感或面向客戶應用的延遲問題。將資源和結果保持在用戶附近可以緩解這些問題。
信任是負責任AI的另一個關鍵面向。Red Hat提倡開放平台、工具和模型,以增加透明度並允許更廣泛的社群參與。Julio表示:「這對每個人都至關重要。」「我們正在構建能力來民主化AI,不僅是通過發布模型,而是提供工具讓用戶複製、調整和服務這些模型。」
Red Hat最近收購Neural Magic,旨在幫助企業更輕鬆地擴展AI、提高推理性能,並通過vLLM項目提供更多構建和部署AI工作負載的選擇。此外,Red Hat與IBM Research合作發布了InstructLab,將AI開發開放給擁有寶貴商業知識的非數據科學家。
AI的未來
儘管對AI泡沫存在許多猜測,Red Hat相信未來的AI將針對特定用例進行定制並保持開源。這種方法將在經濟上可行並對所有人可及。正如Red Hat首席執行官Matt Hicks所說:「AI的未來是開放的。」
中國電信投資綿比智能,為大型語言模型與數據基礎設施籌集資金至71.3萬元
在大模型領域,這支「國家隊」與清華大學的領軍人物正深化戰略合作。 根據企查查最新企業登記資料顯示,2026年3月1日,北京綿比智能科技有限公司進行了重大股權重組,正式引入電信巨頭及產業基金的投資。此舉不僅是資本注入,更預示著國內大型模型在公共數據平台及智慧硬體領域的商業化進程將大幅加速。重點摘要:電信與本土基金雙重背書此次股權變更後,面壁智能的股東陣容新增了數家重要機構:中國電信全資投資:新股東「
陶天集團加速推進 AI 原生轉型,並向實習生發放免費代幣配額
TaoTian Group 近期推出「AI 生產力計畫」,旨在透過資源配置與工具補助,加速將 AI 技術整合至電商營運及研發工作流程中。此計畫現已開放給所有實習生,讓他們在實習期間享有與正式員工相同的 AI 權限、運算配額及審批流程。自 3 月 17 日起,淘天集團員工已獲授權免費使用多款付費 AI 工具,包括「悟空」及「Qoder」系列。這些工具支援廣泛的應用場景,從基礎技術研發到一般辦公室生產
Glean 瞄準企業 AI 基礎設施市場,展開搶佔先機之舉
企業人工智慧主導權的競爭正加速進行。微軟正將 Copilot 整合至 Office,Google 則將 Gemini 整合至 Workspace,而 OpenAI 和 Anthropic 兩家企業也正直接向企業銷售服務。與此同時,如今幾乎每家 SaaS 供應商都已內建人工智慧助理。在各方爭相掌控使用者介面的熱潮中,Glean 卻採取了一種較不顯眼的策略:成為底層的智慧層。七年前,Glean 最初定
이 논의는 사실이네요. 실제로 우리 회사에서도 AI 배포 시 지역 규제 때문에 모델을 커스터마이징해야 했어요. 오픈소스 소형 언어 모델이 더 유연한 솔루션이 될 수 있을 것 같아요. 특히 데이터 프라이버시가 중요한 경우에는요. 레드햇의 접근 방식이 현실적인 문제에 잘 맞는 것 같아요 👍
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟





首頁






