開放的小語言模型,用於負責任的,實用的AI
地緣政治對AI發展與應用的影響
隨著全球事件的持續塑造我們的世界的,這些事件無可避免地影響科技行業,特別是AI市場。這種影響延伸至AI的開發方式、方法論及其在企業中的應用。當前的AI格局充滿了興奮與懷疑,有些人擁抱其潛力,而其他人則因其早期發展階段而保持謹慎。
傳統的閉環大規模語言模型(LLMs),如來自知名供應商的模型,正面臨來自較新、較開放的模型如Llama、DeepSeek及百度Ernie X1的競爭。相較之下,開源開發提供了透明度及社群貢獻的機會,符合「負責任AI」的理念。這種方法考慮了環境影響、使用倫理、學習數據來源以及數據主權、語言和政治相關問題。
Red Hat,一家以成功開源商業模式聞名的公司,熱衷於將其協作與透明的方法應用於AI。在最近與Red Hat EMEA首席技術官Julio Guijarro的對話中,我們討論了他們如何以負責任且可持續的方式利用生成式AI的潛力,為企業增加價值。
教育與透明度的需求
Julio強調了對AI教育的需求,指出其複雜性質常常使其對許多人來說像個「黑盒子」。他說:「AI的內部運作深植於複雜的科學與數學之中,大多數人對此知之甚少。」「當AI在封閉環境中開發時,這種缺乏透明度的問題更加嚴重。」
其他挑戰包括某些語言的代表性不足、數據主權問題以及信任問題。Julio指出:「數據是組織最寶貴的資產,企業必須意識到將敏感數據暴露於具有不同隱私政策的公共平台所帶來的風險。」
Red Hat的AI策略
Red Hat對全球AI需求的回應專注於為最終用戶提供利益,同時解決與傳統AI服務相關的疑慮與限制。Julio強調了小型語言模型(SLMs)的潛力,這些模型可以在本地或混合雲上運行,使用非專業硬體,並能存取本地商業數據。SLMs高效且針對特定任務,所需資源比LLMs少。
SLMs的關鍵優勢之一是能夠跟上快速變化的商業數據。Julio解釋說:「大型語言模型可能很快過時,因為數據生成發生在大規模雲端之外,就在您的業務流程旁邊。」
成本是另一個關鍵因素。Julio說:「使用LLM的客戶服務查詢可能會產生顯著的隱藏成本。」「在AI之前,數據查詢的範圍和成本是可預測的。使用LLMs,每次互動都可能因其迭代模型而增加成本。在本地運行模型可以更好地控制成本,因為它們與您的基礎設施相關,而不是按查詢計費。」
幸運的是,組織無需大量投資於GPU等專業硬體。Red Hat正致力於優化模型以在標準硬體上運行,專注於企業所需的特定模型,而不是處理每次查詢的大型通用數據集。
小型、局部模型的重要性
通過使用和參考本地數據,結果可以針對特定需求進行定制。Julio提到了在阿拉伯語和葡萄牙語等地區的項目,這些地區未被以英語為中心的大型語言模型充分服務。
大型語言模型存在實際挑戰,包括可能影響時間敏感或面向客戶應用的延遲問題。將資源和結果保持在用戶附近可以緩解這些問題。
信任是負責任AI的另一個關鍵面向。Red Hat提倡開放平台、工具和模型,以增加透明度並允許更廣泛的社群參與。Julio表示:「這對每個人都至關重要。」「我們正在構建能力來民主化AI,不僅是通過發布模型,而是提供工具讓用戶複製、調整和服務這些模型。」
Red Hat最近收購Neural Magic,旨在幫助企業更輕鬆地擴展AI、提高推理性能,並通過vLLM項目提供更多構建和部署AI工作負載的選擇。此外,Red Hat與IBM Research合作發布了InstructLab,將AI開發開放給擁有寶貴商業知識的非數據科學家。
AI的未來
儘管對AI泡沫存在許多猜測,Red Hat相信未來的AI將針對特定用例進行定制並保持開源。這種方法將在經濟上可行並對所有人可及。正如Red Hat首席執行官Matt Hicks所說:「AI的未來是開放的。」
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (14)
0/500
이 논의는 사실이네요. 실제로 우리 회사에서도 AI 배포 시 지역 규제 때문에 모델을 커스터마이징해야 했어요. 오픈소스 소형 언어 모델이 더 유연한 솔루션이 될 수 있을 것 같아요. 특히 데이터 프라이버시가 중요한 경우에는요. 레드햇의 접근 방식이 현실적인 문제에 잘 맞는 것 같아요 👍
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟
地緣政治對AI發展與應用的影響
隨著全球事件的持續塑造我們的世界的,這些事件無可避免地影響科技行業,特別是AI市場。這種影響延伸至AI的開發方式、方法論及其在企業中的應用。當前的AI格局充滿了興奮與懷疑,有些人擁抱其潛力,而其他人則因其早期發展階段而保持謹慎。
傳統的閉環大規模語言模型(LLMs),如來自知名供應商的模型,正面臨來自較新、較開放的模型如Llama、DeepSeek及百度Ernie X1的競爭。相較之下,開源開發提供了透明度及社群貢獻的機會,符合「負責任AI」的理念。這種方法考慮了環境影響、使用倫理、學習數據來源以及數據主權、語言和政治相關問題。
Red Hat,一家以成功開源商業模式聞名的公司,熱衷於將其協作與透明的方法應用於AI。在最近與Red Hat EMEA首席技術官Julio Guijarro的對話中,我們討論了他們如何以負責任且可持續的方式利用生成式AI的潛力,為企業增加價值。
教育與透明度的需求
Julio強調了對AI教育的需求,指出其複雜性質常常使其對許多人來說像個「黑盒子」。他說:「AI的內部運作深植於複雜的科學與數學之中,大多數人對此知之甚少。」「當AI在封閉環境中開發時,這種缺乏透明度的問題更加嚴重。」
其他挑戰包括某些語言的代表性不足、數據主權問題以及信任問題。Julio指出:「數據是組織最寶貴的資產,企業必須意識到將敏感數據暴露於具有不同隱私政策的公共平台所帶來的風險。」
Red Hat的AI策略
Red Hat對全球AI需求的回應專注於為最終用戶提供利益,同時解決與傳統AI服務相關的疑慮與限制。Julio強調了小型語言模型(SLMs)的潛力,這些模型可以在本地或混合雲上運行,使用非專業硬體,並能存取本地商業數據。SLMs高效且針對特定任務,所需資源比LLMs少。
SLMs的關鍵優勢之一是能夠跟上快速變化的商業數據。Julio解釋說:「大型語言模型可能很快過時,因為數據生成發生在大規模雲端之外,就在您的業務流程旁邊。」
成本是另一個關鍵因素。Julio說:「使用LLM的客戶服務查詢可能會產生顯著的隱藏成本。」「在AI之前,數據查詢的範圍和成本是可預測的。使用LLMs,每次互動都可能因其迭代模型而增加成本。在本地運行模型可以更好地控制成本,因為它們與您的基礎設施相關,而不是按查詢計費。」
幸運的是,組織無需大量投資於GPU等專業硬體。Red Hat正致力於優化模型以在標準硬體上運行,專注於企業所需的特定模型,而不是處理每次查詢的大型通用數據集。
小型、局部模型的重要性
通過使用和參考本地數據,結果可以針對特定需求進行定制。Julio提到了在阿拉伯語和葡萄牙語等地區的項目,這些地區未被以英語為中心的大型語言模型充分服務。
大型語言模型存在實際挑戰,包括可能影響時間敏感或面向客戶應用的延遲問題。將資源和結果保持在用戶附近可以緩解這些問題。
信任是負責任AI的另一個關鍵面向。Red Hat提倡開放平台、工具和模型,以增加透明度並允許更廣泛的社群參與。Julio表示:「這對每個人都至關重要。」「我們正在構建能力來民主化AI,不僅是通過發布模型,而是提供工具讓用戶複製、調整和服務這些模型。」
Red Hat最近收購Neural Magic,旨在幫助企業更輕鬆地擴展AI、提高推理性能,並通過vLLM項目提供更多構建和部署AI工作負載的選擇。此外,Red Hat與IBM Research合作發布了InstructLab,將AI開發開放給擁有寶貴商業知識的非數據科學家。
AI的未來
儘管對AI泡沫存在許多猜測,Red Hat相信未來的AI將針對特定用例進行定制並保持開源。這種方法將在經濟上可行並對所有人可及。正如Red Hat首席執行官Matt Hicks所說:「AI的未來是開放的。」
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
이 논의는 사실이네요. 실제로 우리 회사에서도 AI 배포 시 지역 규제 때문에 모델을 커스터마이징해야 했어요. 오픈소스 소형 언어 모델이 더 유연한 솔루션이 될 수 있을 것 같아요. 특히 데이터 프라이버시가 중요한 경우에는요. 레드햇의 접근 방식이 현실적인 문제에 잘 맞는 것 같아요 👍
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟





首頁






