選項
首頁
新聞
亞馬遜 Trainium 實驗室獨家導覽:Chip 擊敗 Anthropic、OpenAI 與蘋果

亞馬遜 Trainium 實驗室獨家導覽:Chip 擊敗 Anthropic、OpenAI 與蘋果

2026-07-16
71

在亞馬遜執行長安迪·賈西(Andy Jassy)宣布 AWS 與 OpenAI 達成這項具有里程碑意義的 500 億美元投資合作夥伴關係後不久,該公司便邀請我參觀這項合作的核心——晶片研發實驗室,且相關費用主要由其自行承擔。

業界觀察家正密切關注在該設施中研發的亞馬遜「Trainium」晶片,因其有望降低人工智慧推論的成本,並可能挑戰英偉達的近乎壟斷地位。

出於好奇,我接受了這項邀請。

當天的嚮導包括實驗室主任克里斯托弗·金(下圖右)、工程總監馬克·卡羅爾(左),以及負責安排此次參訪的團隊公關聯絡人多隆·阿隆森(本文後段將與我一同入鏡)。

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

AWS 晶片實驗室負責人馬克·卡羅爾與克里斯托弗·金。圖片來源:TechCrunch/Julie Bort

自該 AI 實驗室成立初期以來,AWS 便一直是 Anthropic 的主要雲端平台——這段合作關係足夠穩固,即使後來 Anthropic 將微軟納入雲端合作夥伴,以及亞馬遜與 OpenAI 加深合作關係,這段關係依然屹立不搖。

OpenAI 的協議指定 AWS 為該模型開發商全新 AI 代理程式建構工具「Frontier」的獨家供應商——若這些代理程式能符合矽谷的期待,此工具將可能成為 OpenAI 業務不可或缺的一部分。這項獨家合作能否如公告所言維持下去,仍有待觀察。 《金融時報》本週報導指出,微軟可能會主張這項與亞馬遜的協議違反了其與 OpenAI 之間的既有協議,特別是該協議明定微軟有權取得 OpenAI 所有的模型與技術。

OpenAI 為何對 AWS 如此青睞?作為這項協議的一部分,這家雲端巨頭承諾向 OpenAI 提供 2 吉瓦的 Trainium 運算能力——這是一項巨大的承諾,畢竟 Anthropic 以及亞馬遜自家的 Bedrock 服務,目前消耗 Trainium 晶片的速度已經超過亞馬遜的生產能力。

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

亞馬遜的 Trainium3 晶片。圖片來源:亞馬遜

Trainium 對決 Nvidia

除了為 Nvidia 那些訂單積壓、一籌莫展的 GPU 提供替代方案外,亞馬遜表示,其專用 Trn3 UltraServers 上運行的新晶片,不僅能提供相近的效能,成本更比使用傳統雲端伺服器低達 50%。

除了去年 12 月推出的 Trainium3 之外,AWS 團隊還開發了新的 Neuron 交換器。卡羅爾表示,這項組合具有革命性的意義。

「這為我們帶來了巨大的優勢,」卡羅爾表示。這些交換器使每顆 Trainium3 晶片都能在網狀架構中與其他所有晶片進行通訊,從而降低延遲。「這就是為什麼 Trainium3 能打破各類紀錄,」他補充道,特別是在「每瓦性能」方面。

當每日處理數兆個代幣時,這些改進所帶來的效益便會累積顯現。

事實上,亞馬遜的晶片團隊在 2024 年獲得了蘋果的讚譽。在這家向來極度低調的公司罕見地敞開胸襟之際,蘋果的人工智慧總監公開闡述了蘋果如何運用該團隊的另一款晶片——Graviton。這是一款基於 ARM 架構的低功耗伺服器 CPU,也是該團隊設計的首款突破性晶片。 蘋果還盛讚了專為推論設計的「Inferentia」晶片,並對當時仍屬新產品的「Trainium」表示肯定。

這些晶片遵循了亞馬遜的經典策略:先了解客戶需求,再開發能以價格競爭的自研替代方案。

從歷史來看,晶片領域的挑戰在於轉換成本。為 NVIDIA 晶片編寫的應用程式必須重新架構才能與其他晶片相容——這個耗時的過程往往讓開發者卻步,不願轉換平台。

但 AWS 晶片團隊自豪地告訴我,Trainium 現已支援 PyTorch——這是一款用於建構 AI 模型的熱門開源框架。這包括許多託管於 Hugging Face 上的模型,該平台是一個龐大的庫,開發者可在其中分享開源模型。

卡羅爾表示,這項轉換「基本上只需修改一行程式碼,重新編譯,然後在 Trainium 上執行即可」。換言之,亞馬遜正盡可能地逐步侵蝕 Nvidia 的市場主導地位。

AWS 本月還宣布與 Cerebras Systems 建立合作夥伴關係,將該公司的推論晶片整合到運行 Trainium 的伺服器上,亞馬遜承諾這將帶來超強大且低延遲的 AI 效能。

但亞馬遜的野心不僅限於晶片本身。該團隊還負責設計用於容納這些晶片的伺服器。 除了網路元件外,他們還打造了「Nitro」——這套軟硬體整合方案提供虛擬化功能(讓多個軟體執行個體能在同一台伺服器上獨立運行);採用最先進的液冷技術;以及用來承載這些設備的伺服器滑架(如下圖所示)。

所有這些設計皆旨在控制成本並優化效能。

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

AWS 奧斯汀晶片實驗室導覽,搭載組件的滑架。圖片來源:TechCrunch/Julie Bort

全天候投入「啟動」工作

亞馬遜的自研晶片設計部門,始於 2015 年 1 月這家雲端巨頭以約 3.5 億美元收購以色列晶片設計公司 Annapurna Labs 之時。因此,該團隊已投入超過十年的時間為 AWS 設計晶片。該部門保留了 Annapurna 的根源與名稱——其標誌在辦公室隨處可見。

這座晶片實驗室坐落於奧斯汀高檔的 Domain 區一棟鍍鉻玻璃幕牆的閃亮大樓內,該區步行即可抵達各類商店與餐廳,有時也被稱為「奧斯汀的矽谷」。

辦公室洋溢著經典的科技企業氛圍:隔間式辦公桌、交流區和會議室。但隱身於高樓層深處的,才是真正的實驗室,從那裡可以一覽無遺地欣賞城市全景。

這個擺滿層架的實驗室,面積約等於兩間大型會議室,由於設備風扇的運轉,這裡是個喧鬧的工業空間。它看起來像是高中實作課教室與好萊塢高端實驗室場景的混合體——只不過工程師們穿的是牛仔褲,而不是白色實驗袍。

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

AWS 奧斯汀晶片實驗室。圖片來源:TechCrunch/Julie Bort

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

AWS 奧斯汀晶片實驗室。圖片來源:TechCrunch/Julie Bort

請注意,這裡並不生產晶片,因此無需穿著白色防護服。Trainium3 是一款由台積電(TSMC)生產的頂尖 3 奈米晶片,台積電可說是 3 奈米製造技術的領導者;其餘晶片則由 Marvell 製造。

但這正是「初始化」魔法發生的地方。

「所謂的矽晶片啟動,是指首次拿到晶片時,這就像是一場徹夜狂歡派對。 你會待在這裡,就像被鎖在裡面一樣,」金解釋道。經過 18 個月的努力,這顆晶片首次被啟動,以驗證其是否能按設計運作。團隊甚至拍攝了 Trainium3 啟動過程的部分片段,並上傳至 YouTube。

劇透警告:這個過程從來不會一帆風順。

就 Trainium3 而言,原型晶片最初與前幾代一樣採用風冷設計。目前的晶片則改為液冷,這不僅在能源效率上更具優勢,更是一項了不起的工程壯舉。

在啟動過程中,晶片與風冷式散熱器的安裝尺寸出現偏差,導致晶片無法啟動。

面對此狀況,團隊並未因此卻步,「立刻拿來一台磨床,直接開始磨除金屬」,King 說道。為了不破壞啟動測試期間的披薩派對氣氛,他們悄悄溜進會議室進行磨削作業。

通宵達旦地解決問題,「這正是矽晶片調試的真諦」,金表示。

實驗室甚至設有焊接工作站,硬體實驗室工程師兼焊接大師艾薩克·格瓦拉(Isaac Guevara)在顯微鏡下示範了如何焊接微小的積體電路元件。這項工作難度極高,資深主管卡羅爾(Carroll)坦承自己無法勝任,引得格瓦拉和在場的其他工程師哄堂大笑。

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

AWS 奧斯汀晶片實驗室導覽,焊接工作站。圖片來源:TechCrunch/Julie Bort

該實驗室還配備了專為測試和分析晶片問題而設計的自製與商用工具。以下是訊號工程師阿文德·斯里尼瓦桑(Arvind Srinivasan)示範實驗室如何測試晶片上的每個微小元件:

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

AWS 奧斯汀晶片實驗室導覽,測試設備。圖片來源:TechCrunch/Julie Bort

「滑橇」是實驗室的明星

但實驗室的真正亮點,是一整排展示團隊所設計的各代「雪橇」的陳列區。

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

AWS 奧斯汀晶片實驗室導覽:滑槽展示牆。圖片來源:TechCrunch/Julie Bort

「滑槽」是用來容納 Trainium AI 晶片、Graviton CPU 晶片,以及支援電路板和元件的托盤。將它們與網路元件(同樣由該團隊客製化設計)堆疊在機架上,便組成了 Anthropic Claude 成功的核心系統。

以下是去年 12 月 AWS re:Invent 大會上展示的滑槽:

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

AWS 奧斯汀晶片實驗室導覽,Trainium3 滑槽。圖片來源:TechCrunch/Julie Bort

經 Anthropic 與 OpenAI 實證

我原本預期導覽人員會在參觀過程中大談 OpenAI 這筆交易,但他們並未如此。

這種緘默可能與這筆交易周遭潛在的法律疑雲有關。 但我感受到的是,這些身處一線的工程師——目前正設計下一代產品 Trainium4——至今尚未有太多機會與 OpenAI 合作。他們迄今為止的日常工作,主要仍聚焦於 Anthropic 和亞馬遜的需求。

目前,Trainium2 晶片的大部分部署於「雷尼爾計畫」(Project Rainier)——這是全球最大的 AI 運算叢集之一——該計畫於 2025 年底上線,配備 50 萬顆晶片,並由 Anthropic 所使用。

不過,主辦公室牆上的螢幕顯示了一段關於 OpenAI 將如何運用 Trainium 的引言。其中雖不顯眼,卻透露出一絲自豪。

除了這間實驗室外,團隊還擁有專屬的私有資料中心,用於品質管控與測試。該資料中心距離此處僅需短暫車程,由於不處理客戶的工作負載,因此設於共置設施中,而非 AWS 資料中心。

安全措施極為嚴密:進入大樓以及進入大樓內亞馬遜區域,皆須遵循嚴格的協議。

資料中心的冷卻系統噪音極大,必須配戴耳塞;空氣中瀰漫著加熱金屬的刺鼻氣味。對一般人來說,這絕非一個舒適的逗留場所。

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

這是我與阿隆森在 AWS 奧斯汀晶片實驗室資料中心,站在運轉中的伺服器旁保護耳朵的模樣。圖片來源:TechCrunch / Julie Bort

在這座資料中心裡,一排排伺服器中裝滿了整合了亞馬遜所有最新自製晶片的「雪橇」:Graviton CPU、液冷式 Trainium3 以及 Amazon Nitro——全都正嗡嗡作響。工程師表示,冷卻液運行於封閉系統中,意味著可以循環再利用,這應有助於降低對環境的影響。

以下是現行 Trn3 UltraServer 的樣貌:頂部和底部各裝有多個滑架,中間則配置了 Neuron 交換機。圖中可見硬體開發工程師 David Martinez-Darrow 正在對一個滑架進行維護:

獨家探訪亞馬遜的 Trainium 實驗室——這款讓 Anthropic、OpenAI 甚至蘋果都為之傾倒的晶片

AWS 奧斯汀晶片實驗室導覽資料中心。圖片來源:TechCrunch/Julie Bort

雖然外界對該團隊的關注度一直很高,但近期審視的目光確實更加嚴苛。

亞馬遜執行長安迪·賈西(Andy Jassy)密切關注這個實驗室,並像一位自豪的父母般公開誇耀其產品。去年 12 月,他表示 Trainium 已成為 AWS 價值數十億美元的業務,並稱其為他最感興奮的 AWS 技術之一。他在宣布與 OpenAI 達成協議時,也特別提到了這款晶片。

團隊同樣感受到了這份壓力。每逢晶片上線測試(bring-up event),工程師們都會連續三至四週全天候工作,以解決各項問題,確保晶片能投入量產並部署至資料中心。

「我們必須盡快證明這項技術確實可行,這點至關重要,」卡羅爾表示。「到目前為止,我們的表現非常出色。」

*聲明:亞馬遜提供了機票並負擔了一晚當地飯店住宿費用。秉持其「節儉」的領導原則,這是一張飛機後排的中間座位,以及一間簡樸的房間。TechCrunch 則負擔了其他旅行費用,例如 Uber 車資和行李費。(沒錯,我為這趟過夜行程託運了一件行李。 我這方面確實有點難伺候。) 

相關文章
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化 亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化 亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
馬克·扎克伯格真的相信人工智慧是面向每個人的嗎? 馬克·扎克伯格真的相信人工智慧是面向每個人的嗎? 正在載入播放器…Meta 本週推出了 Glimmer,這是一個開源權重的 AI 模型,任何人都可以下載並在個人硬體上執行——這與該公司更強大的模型 Muse Spark 形成了鮮明對比,後者仍鎖定在其自有 API 之後。此次釋出伴隨著馬克·扎克伯格(Mark Zuckerberg)的一封公開信,他在信中主張人工智慧應向所有人開放,而非由少數幾家實驗室控制。但正如 Equity 節目主持人所指出的那樣,這一願景附帶了幾個重要的限制條件。在本期 TechCrunch 的 Equity 播客中,K
TechCrunch Disrupt 2026 將展示來自亞馬遜、Replit 和 Tether 的行業領袖 TechCrunch Disrupt 2026 將展示來自亞馬遜、Replit 和 Tether 的行業領袖 TechCrunch Disrupt 長期以來一直是技術界最關鍵對話的中心,擁有超過十年的深厚積澱。曾登上這一舞臺的演講嘉賓既是初創時代的偶像,也是當前人工智慧革命的標誌性人物,包括扎克伯格、貝尼奧夫、馬斯克、卡拉尼克、梅耶和多西。在 TechCrunch Disrupt 2026 上,我們將與最具影響力的聲音共同探討本年度最緊迫的話題。我們將聚焦於人工智慧時代下構建、融資和擴充套件企業的現實挑戰。10 月 13 日至 15 日,在舊金山莫斯康展覽中心,創始人、投資者和技術專家將直接與塑造軟體、
相關專題推薦
寫作 適用於長篇寫作的 AI 文章大綱工具
適用於長篇寫作的 AI 文章大綱工具

2026 年最新、最受好評的長文寫作 AI 大綱工具!這份精選清單收錄了強大且具顛覆性的工具,能透過實際測試生成精準、結構化的大綱,大幅提升寫作效率。XIX.AI 正是這份菁英名單中的一員。 獲取免費版與付費版的比較指南,助您挑選最合適的工具。立即探索,釋放您的 AI 優勢!

9 個工具
xix.ai
聊天機器人 用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用
用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用

2026 年最新最佳頂級評分 AI 角色扮演聊天應用,用於語言練習、面試準備和日常流利度!XIX.AI 精心策劃了一個強大的變革性合集,提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能,克服流利度挑戰,並提高所有日常場景下的溝通效率。立即探索,發現您語言成長的完美工具!

10 個工具
xix.ai
音樂創作 用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具
用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具

2026年最新、最優秀且評分最高的AI音軌分離工具彙總,專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試,能夠實現精準的音訊分離,顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南,幫助您找到最適合自身需求的工具。立即探索,發揮您的AI優勢。

8 個工具
xix.ai
數據分析 用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手
用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手

2026年最新最優秀的AI SQL輔助工具排名揭曉!XIX.AI精心挑選了一系列功能強大的工具,這些工具會定期更新,並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具,您可以快速生成精準的收入分析報表、分析銷售流程,並追蹤產品各項指標,從而大幅提升工作效率。立即探索,找到最適合您的資料驅動決策工具!238個字元

9 個工具
xix.ai
音樂創作 最佳用於歌曲草稿的 AI 旋律創作工具
最佳用於歌曲草稿的 AI 旋律創作工具

2026 年最新最佳頂級評分 AI 旋律創作工具,助力歌曲草稿創作!XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集,旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項,這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿,並顯著提升您的創意生產力。立即探索,發現您的完美工具!

8 個工具
xix.ai
聊天機器人 最適合面試練習的 AI 對話訓練工具
最適合面試練習的 AI 對話訓練工具

2026 年最新、最受好評的 AI 面試對話訓練工具,盡在 XIX.AI!這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具,這些工具均經過嚴格的實戰測試,能提供精準的回饋。 您將在此找到免費版與付費版的比較分析,以及詳細的排名榜單,助您挑選必試的選項,從而提升自信與技能。立即探索,發掘助您在面試中脫穎而出的完美工具!

12 個工具
xix.ai
評論 (0)
0/500
OR