アマゾンの「Trainium Lab」特別ツアー：チップがAnthropic、OpenAI、Appleに勝利

アマゾンのCEO、アンディ・ジャシー氏が、AWSとOpenAIとの間で結ばれた500億ドル規模の画期的な投資提携を発表した直後、同社は、この提携の中核をなすチップ開発ラボのプライベートツアーを、ほぼ全額自費で私に提供してくれた。

業界のオブザーバーたちは、その施設で開発されているアマゾンの「Trainium」チップに注目している。AI推論のコストを削減し、NVIDIAのほぼ独占状態を脅かす可能性を秘めているからだ。

興味をそそられた私は、その招待を受け入れた。

この日の案内役は、ラボディレクターのクリストファー・キング氏（下の写真右）、エンジニアリングディレクターのマーク・キャロル氏（左）、そして訪問を手配してくれたチームの広報担当、ドロン・アロンソン氏（記事の後半で私と一緒に写っている）だった。

AWSチップラボのリーダー、マーク・キャロル氏とクリストファー・キング氏。画像提供：TechCrunch/Julie Bort

AWSは、このAIラボの設立当初からAnthropicの主要なクラウドプラットフォームであり続けてきた。その関係は極めて強固なもので、後にAnthropicがマイクロソフトをクラウドパートナーとして追加したり、アマゾンがOpenAIとの提携を強化したりした際にも、その関係は維持された。

OpenAIとの契約では、AWSが同社の新しいAIエージェント構築ツール「Frontier」の独占プロバイダーに指定されている。エージェントがシリコンバレーの期待に応えることができれば、このツールはOpenAIの事業に不可欠なものとなる可能性がある。発表通りその独占権が維持されるかどうかは、まだ不明だ。 フィナンシャル・タイムズ紙は今週、マイクロソフトが、Amazonとの契約は同社とOpenAIとの間の合意に違反すると主張する可能性があると報じた。具体的には、レドモンド（マイクロソフト本社）にはOpenAIのすべてのモデルと技術に対する権利があるという点だ。

なぜOpenAIはAWSをそれほど魅力的に感じているのだろうか？この協定の一環として、クラウド大手のAWSは、OpenAIに2ギガワットの「Trainium」演算能力を供給することを約束した。AnthropicやAmazon自身の「Bedrock」サービスが、Amazonの生産能力を上回るペースで「Trainium」チップを消費している現状を考えると、これは極めて大規模な約束である。

アマゾンのTrainium3チップ。画像提供：アマゾン

Trainium 対 Nvidia

NVIDIAのバックログが積み上がり、入手困難なGPUに代わる選択肢を提供することに加え、Amazonは、同社の専用「Trn3 UltraServer」上で動作する新しいチップが、従来のクラウドサーバーを使用する場合に比べて最大50％低いコストで同等のパフォーマンスを発揮すると述べている。

12月にリリースされたTrainium3に加え、AWSチームは新しいNeuronスイッチも開発した。キャロル氏は、この組み合わせが画期的なものだと述べている。

「これにより、我々は非常に大きなメリットを得ることができます」とキャロル氏は語った。このスイッチにより、すべてのTrainium3チップがメッシュ構成で他のすべてのチップと通信できるようになり、レイテンシが低減される。「だからこそ、Trainium3はあらゆる記録を塗り替えているのです」と彼は付け加え、特に「電力当たりの価格」においてその傾向が顕著だと述べた。

毎日数兆個のトークンが処理される中、こうした改善は大きな効果をもたらします。

実際、2024年にはAmazonのチップチームがAppleから称賛を受けた。秘密主義で知られる同社としては珍しく、AppleのAI担当ディレクターが、同チームが設計した別のチップ——低消費電力のARMベースのサーバー用CPUであり、同チームが初めて世に送り出したチップである「Graviton」——をAppleがどのように活用しているかを公に説明した。 また、Appleは推論専用に設計されたチップ「Inferentia」を称賛し、当時まだ新しかった「Trainium」にも言及した。

これらのチップは、顧客のニーズを把握し、価格競争力のある自社製代替品を開発するという、アマゾンの定番戦略を踏襲している。

これまで、チップ分野における課題は「切り替えコスト」でした。NVIDIAのチップ向けに書かれたアプリケーションを他のチップで動作させるには、アーキテクチャの再設計が必要であり、この時間のかかるプロセスが開発者の乗り換えを妨げてきました。

しかし、AWSのチップチームは、Trainiumが現在、AIモデル構築用の人気オープンソースフレームワークであるPyTorchに対応していることを誇らしげに語った。これには、開発者がオープンソースモデルを共有する巨大なライブラリ「Hugging Face」でホストされている多くのモデルも含まれる。

キャロル氏によると、この移行には「基本的には1行の変更を行い、再コンパイルした後、Trainium上で実行するだけ」だという。つまり、Amazonは可能な限りあらゆる場面で、Nvidiaの市場支配を徐々に崩そうとしているのだ。

またAWSは今月、Cerebras Systemsとの提携を発表し、Trainiumを実行するサーバーに同社の推論用チップを統合することで、Amazonが約束する「超高性能かつ低遅延のAIパフォーマンス」を実現するとしている。

しかし、Amazonの野心はチップそのものにとどまらない。同チームは、チップを搭載するサーバーの設計も手掛けている。 ネットワークコンポーネントに加え、彼らは「Nitro」を開発した。これは、仮想化（同一サーバー上で多数のソフトウェアインスタンスを個別に実行可能にする）、最新鋭の液体冷却技術、そして機器を収容するサーバースレッド（下図）を提供するハードウェアとソフトウェアの組み合わせである。

これらすべては、コストとパフォーマンスの最適化を目的としています。

AWSオースティン・チップラボの見学、コンポーネントを搭載したスレッド。画像提供：TechCrunch/Julie Bort

「ブリングアップ」作業に24時間365日取り組む

Amazonのカスタムチップ設計部門は、2015年1月にこのクラウド大手がイスラエルのチップ設計会社Annapurna Labsを約3億5000万ドルで買収したことをきっかけに発足しました。つまり、このチームは10年以上にわたりAWS向けのチップ設計に取り組んできたことになります。同部門はAnnapurnaのルーツと名称を継承しており、オフィス内の至る所にそのロゴが見られます。

このチップ研究所は、オースティンの高級地区「ドメイン」にある、光沢のあるクロームの窓を備えたビルに位置している。このエリアはショップやレストランが立ち並び、徒歩で回れるほどコンパクトで、「オースティンのシリコンバレー」とも呼ばれる。

オフィスには、キュービクルのデスク、交流スペース、会議室など、典型的なハイテク企業の雰囲気が漂っている。しかし、高層階の奥にひっそりと佇むのが、街のパノラマビューを一望できる実際の実験室だ。

大きな会議室2つ分の広さほどあるこのラボは、棚で埋め尽くされており、機器のファン音が響く騒がしい工業スペースだ。高校の工作教室と、ハリウッド映画に登場するようなハイエンドな研究所のセットを掛け合わせたような雰囲気だが、エンジニアたちは白衣の代わりにジーンズを履いている点が異なる。

AWSオースティン・チップ・ラボ。画像提供：TechCrunch/Julie Bort

AWSオースティン・チップラボ。画像提供：TechCrunch/Julie Bort

なお、ここではチップの製造は行われていないため、白い防護服は必要ありませんでした。「Trainium3」は、3ナノメートル製造のリーダー的存在とも言えるTSMCが製造した最先端の3ナノメートルチップで、その他のチップはMarvellが製造しています。

しかし、この部屋こそが「ブリングアップ」という魔法が繰り広げられる場所なのです。

「シリコンのブリングアップとは、チップを初めて手にする瞬間のことですが、それはまるで一晩中続く大パーティーのようなものです。 まるで『ロックイン』のように、ここで徹夜するんです」とキング氏は説明します。18か月にわたる作業を経て、チップは初めて起動され、設計通りに動作するかどうかが検証されます。チームはTrainium3のブリングアップの一部を撮影し、YouTubeに投稿しました。

ネタバレ注意：決して問題がないわけではありません。

Trainium3の場合、プロトタイプチップは当初、以前のバージョンと同様に空冷式でした。現在のチップは水冷式になっており、これはエネルギー効率の面で利点があるだけでなく、技術的にもかなりの偉業でした。

起動テスト中、チップを空冷ヒートシンクに取り付ける際の寸法にずれが生じ、チップを起動できなくなってしまいました。

しかしチームは動じることなく、「すぐにグラインダーを手に入れ、金属を削り始めた」とキング氏は語った。ブリングアップ中のピザパーティーの雰囲気を壊さないよう、彼らはこっそりと抜け出し、会議室で削り作業を行った。

徹夜で問題に取り組むことこそが、「シリコンのブリングアップの本質だ」とキング氏は語った。

このラボには溶接ステーションさえあり、ハードウェアラボのエンジニアであり溶接の達人であるアイザック・ゲバラ氏が、顕微鏡の下で微細な集積回路部品の溶接を実演した。これは非常に難しい作業であるため、シニアリーダーのキャロル氏は「自分にはできない」と率直に認め、それに対してゲバラ氏や部屋にいた他のエンジニアたちから笑いが起こった。

AWSオースティン・チップラボ見学、溶接ステーション。画像提供：TechCrunch/Julie Bort

このラボには、チップの問題をテスト・分析するための特注ツールと市販ツールの両方が備わっている。こちらは、シグナルエンジニアのアーヴィンド・スリニヴァサン氏が、ラボでチップ上の各微小部品をどのようにテストしているかを実演している様子だ：

AWSオースティン・チップラボ見学、試験装置。画像提供：TechCrunch/Julie Bort

ラボの主役は「スレッド」

しかし、このラボの主役は、チームが設計した各世代の「スレッド」を一堂に展示した一列の棚だ。

AWSオースティン・チップラボ見学：スレッドの展示壁。画像提供：TechCrunch/Julie Bort

「スレッド」とは、Trainium AIチップやGraviton CPUチップ、およびサポート用基板やコンポーネントを収容するトレイのことです。これらを、同じくこのチームが独自に設計したネットワークコンポーネントとともにラックに積み重ねることで、Anthropic Claudeの成功の核となるシステムが完成します。

12月に開催されたAWS re:Inventカンファレンスで披露されたスレッドはこちらです：

AWSオースティン・チップラボ見学、Trainium3のスレッド。画像提供：TechCrunch/Julie Bort

AnthropicとOpenAIによって実証済み

ツアー中、ガイドたちがOpenAIとの契約について自慢するだろうと予想していた。しかし、彼らはそうしなかった。

この控えめな態度は、この取引を取り巻く潜在的な法的な不透明感に関係しているのかもしれない。 しかし、私が感じたのは、現在次世代バージョンである「Trainium4」の設計に取り組んでいる現場のエンジニアたちは、まだOpenAIと協力する機会があまりなかったということだ。彼らの日々の業務は、これまでのところAnthropicとAmazonのニーズに重点を置いてきた。

現在、Trainium2チップの大部分は「Project Rainier」――世界最大級のAIコンピューティングクラスターの一つ――に配備されており、2025年末に50万個のチップで稼働を開始した。これはAnthropicによって利用されている。

しかし、メインオフィスの壁面モニターには、OpenAIがTrainiumをどのように活用するかについての引用文が表示されていた。控えめながらも、そこには誇りが感じられた。

このラボに加え、チームは品質管理とテスト専用のプライベートデータセンターを保有している。車で少し離れた場所にあるこのデータセンターは、顧客のワークロードを処理しないため、AWSのデータセンターではなく、コロケーション施設に設置されている。

セキュリティは厳重で、建物への入館や、建物内のAmazonエリアへのアクセスには厳格な手順が設けられている。

データセンターの冷却システムは音が非常に大きいため、耳栓の着用が義務付けられており、加熱された金属の刺激的な臭いが空気に充満している。一般の人にとっては、居心地の良い場所とは言えない。

こちらは、稼働中のサーバーの横で耳を保護している、AWSオースティン・チップラボのデータセンターにいる私とアロンソンです。画像提供：TechCrunch / Julie Bort

このデータセンターでは、何列にも並ぶサーバーラックに、Amazonの最新カスタムチップをすべて統合した「スレッド」が詰め込まれている。Graviton CPU、水冷式のTrainium3、Amazon Nitro――それらがすべて唸りを上げて稼働している。液体は閉鎖系で循環しており、再利用されるため、環境への影響を軽減するのに役立つはずだと、エンジニアたちは語った。

現在のTrn3 UltraServerは、上部と下部に複数のスレッドが配置され、中央にNeuronスイッチが配置されたような構造になっています。ハードウェア開発エンジニアのDavid Martinez-Darrow氏が、スレッドのメンテナンスを行っている様子が見られます：

AWSオースティン・チップラボのデータセンター見学。画像提供：TechCrunch/Julie Bort

このチームへの注目は以前から高かったが、最近ではその監視の目がさらに厳しくなっている。

AmazonのCEO、アンディ・ジャシー氏はこのラボを注視しており、誇り高い親のようにその製品を公の場で自慢している。12月には、TrainiumがすでにAWSにとって数十億ドル規模の事業となっていると述べ、自身が最も期待を寄せているAWS技術の一つだと語った。また、OpenAIとの提携を発表した際にも、このチップについて言及した。

チームもそのプレッシャーを感じている。エンジニアたちは、チップの量産化とデータセンターへの導入を実現するため、各ブリングアップイベントの前後3～4週間、24時間体制で問題の修正に取り組んでいる。

「実際に機能することを証明するために、できるだけ早く成果を出すことが非常に重要です」とキャロル氏は語った。「これまでのところ、順調に進んでいます。」

*開示事項：アマゾンは航空運賃と現地ホテルでの1泊分の宿泊費を負担した。「倹約」というリーダーシップ原則に従い、航空機の後方の中央席と質素な部屋が提供された。Uberや手荷物料金などのその他の旅費はTechCrunchが負担した。（そう、一泊の旅行なのに手荷物を預けてしまった。 そういう点では、私はちょっと手がかかるんです。）