微軟推出了功能強大的新型人工智慧推理晶片

微軟推出了其最新的晶片Maia 200,稱其為專為大規模人工智慧推理而設計的“矽制主力軍”。
作為2023年推出的Maia 100的繼任者,Maia 200被設計用來以更快的速度和更高的效率執行先進的人工智慧模型。它整合了超過1000億個電晶體,在4位精度下能夠實現超過10 petaflops的效能,在8位精度下則能達到約5 petaflops的運算能力——這與其前代產品相比有了顯著的提升。
“推理”是指執行模型的計算過程,而非訓練模型本身。隨著人工智慧企業的發展,推理所需的計算成本在總運營開支中所佔的比例正在不斷增加,因此人們也在努力最佳化這一流程。微軟希望Maia 200能夠幫助人工智慧企業減少運營中斷,並降低能耗。“實際上,單個Maia 200晶片就能夠輕鬆處理當前最大的人工智慧模型,而且未來對於更大規模的模型來說,它也完全有能力滿足需求,”微軟表示。
微軟的新晶片也符合當前科技巨頭們紛紛自主研發晶片以減少對Nvidia依賴的趨勢。由於Nvidia的先進GPU對人工智慧的發展至關重要,因此許多企業都在努力擺脫對其的依賴。例如,谷歌將其開發的TPU作為雲服務提供計算能力,而不是直接銷售晶片;亞馬遜則推出了Trainium AI加速器,最新版本的Trainium3於12月正式釋出。這些晶片能夠分擔部分Nvidia GPU的計算任務,從而降低企業的整體硬體成本。
透過Maia,微軟希望能夠與這些競爭對手抗衡。在週一釋出的新聞稿中,微軟指出Maia在FP4效能上是第三代亞馬遜Trainium晶片的三倍,在FP8效能上則超過了谷歌的第七代TPU。目前,微軟已經將其用於自身的超級智慧團隊開發的人工智慧模型中,同時也支援其Copilot聊天機器人。從週一開始,微軟已經邀請開發者、學者以及前沿的人工智慧研究機構使用Maia 200軟體開發工具包進行相關研發工作。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (1)
0/500
Just saw the news about Microsoft's new Maia 200 chip. Finally, someone is tackling the inference bottleneck with actual silicon instead of just throwing money at cloud services. 🚀 It’s wild how fast these models are evolving, but I’m still skeptical about whether this will actually lower costs for regular users or just make big tech richer. Anyone else excited for cheaper AI access, or is it all hype? 🤔

微軟推出了其最新的晶片Maia 200,稱其為專為大規模人工智慧推理而設計的“矽制主力軍”。
作為2023年推出的Maia 100的繼任者,Maia 200被設計用來以更快的速度和更高的效率執行先進的人工智慧模型。它整合了超過1000億個電晶體,在4位精度下能夠實現超過10 petaflops的效能,在8位精度下則能達到約5 petaflops的運算能力——這與其前代產品相比有了顯著的提升。
“推理”是指執行模型的計算過程,而非訓練模型本身。隨著人工智慧企業的發展,推理所需的計算成本在總運營開支中所佔的比例正在不斷增加,因此人們也在努力最佳化這一流程。微軟希望Maia 200能夠幫助人工智慧企業減少運營中斷,並降低能耗。“實際上,單個Maia 200晶片就能夠輕鬆處理當前最大的人工智慧模型,而且未來對於更大規模的模型來說,它也完全有能力滿足需求,”微軟表示。
微軟的新晶片也符合當前科技巨頭們紛紛自主研發晶片以減少對Nvidia依賴的趨勢。由於Nvidia的先進GPU對人工智慧的發展至關重要,因此許多企業都在努力擺脫對其的依賴。例如,谷歌將其開發的TPU作為雲服務提供計算能力,而不是直接銷售晶片;亞馬遜則推出了Trainium AI加速器,最新版本的Trainium3於12月正式釋出。這些晶片能夠分擔部分Nvidia GPU的計算任務,從而降低企業的整體硬體成本。
透過Maia,微軟希望能夠與這些競爭對手抗衡。在週一釋出的新聞稿中,微軟指出Maia在FP4效能上是第三代亞馬遜Trainium晶片的三倍,在FP8效能上則超過了谷歌的第七代TPU。目前,微軟已經將其用於自身的超級智慧團隊開發的人工智慧模型中,同時也支援其Copilot聊天機器人。從週一開始,微軟已經邀請開發者、學者以及前沿的人工智慧研究機構使用Maia 200軟體開發工具包進行相關研發工作。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
Just saw the news about Microsoft's new Maia 200 chip. Finally, someone is tackling the inference bottleneck with actual silicon instead of just throwing money at cloud services. 🚀 It’s wild how fast these models are evolving, but I’m still skeptical about whether this will actually lower costs for regular users or just make big tech richer. Anyone else excited for cheaper AI access, or is it all hype? 🤔





首頁






