AIコンピューティングの探求:Cerebrasは次なる大物か?

AIモデルの実行に必要な計算リソースへの需要が急増し続ける中、業界関係者はハードウェアの確保と、データセンターでの展開による収益化という2つの重大な課題に直面しています。
モデルの学習ではなく、ユーザーからのリクエストに応じる推論フェーズに特化した新種のネオクラウドプロバイダーであるGeneral Computeは、AIエコシステムの進化方向性を示すソリューションを提供しています。これらの戦略的優位性により、FUSE VCがリードし、Carya Venture PartnersやVillage Global Venturesが参加する1,500万ドルのシードラウンドで、企業価値6,000万ドルのバリュエーションでの資金調達を実現しました。
最適なチップの選定が最初の課題です。GPUへの需要は急増していますが、学習済みAIモデルの実行には必ずしも最も効率的な選択肢ではないことが認識されつつあります。推論に必要な計算要件は学習とは大きく異なり、この目的のために設計された新世代のチップの開発を促しています。12月にNvidiaがGroqを200億ドルで買収したこと、そして先週Cerebrasが570億ドル規模のIPOを実施したことは、このシフトを裏付けるものです。
GroqおよびCerebrasの容量制約を踏まえ、General Computeの共同創業者でありCEOのFinn PuklowskiとCTOのJason Goodisonは代替案を見出しました。彼らは、Intelの支援を受けたチップメーカーで、推論ソリューションに特化しておりシリコンバレーでの注目度が低いSambaNovaと提携しています。
SambaNovaが今年後半に新チップをリリースする際に、この状況は変化する可能性があります。このアーキテクチャはより高い柔軟性を提供し、推論計算中にコンテキストを保存するためにより多くのメモリを利用します。SambaNovaによれば、これらのチップはGPUだけでなく、GroqやCerebrasなどの競合他社による専用ハードウェアよりもパフォーマンスが高いとのことです。Puklowskiによると、新チップは標準的なGPUの約250トークン/秒に対して、1秒あたり600〜700トークンの速度を実現するとのことです。
General ComputeはSambaNovaのSN50チップを3億ドル分発注し、これらを展開する初のネオクラウドとなることを目指しています。
これらのチップは、もう一つの主要な課題である展開場所の問題にも対処しています。水冷ではなく空冷であり、消費電力が少ないため、新しいインフラ投資を必要とせずに既存のデータセンター施設に統合できます。
Puklowskiは、General Computeが第三者の施設に自社のハードウェアを設置するコロケーション契約を追求しています。これらのパートナーシップは従来のデータセンタープロバイダーを超え、特にビットコイン採掘のコストが市場価値を上回る状況下でインフラの再利用を模索するクリプトマイナーにも及びます。
General Computeは先週クラウドサービスを開始し、現在、強力なオープンソース大規模言語モデルであるMiniMax 2.7に対して最速のパフォーマンスを提供していると主張しています。
2021年、推論ブームの初期段階でGroqに出資したベンチャーキャピタル投資家のJoe Hasselmannは、今年AIに焦点を当てた新ファンドEvercrest Capital Partnersを立ち上げ、General Computeを最初の投資先としました。Hasselmannは、SambaNovaとGeneral Computeの提携がCoreweaveとNvidiaの関係、およびGroqのチップ製造と以前のクラウド提供の組み合わせに類似していると考えています。
「彼らは、高成長環境に自社のチップを設置する多様な顧客基盤を必要としています」とHasselmannは指摘しました。「General ComputeがSambaNovaに賭けているように、SambaNovaもGeneral Computeに賭けているのです。」
今後のAIにおいて、どのコンピュータアーキテクチャが最大の価値を確保するかという重要な問いが残っています。推論クラウドは、単一のプロバイダーが支配せず、速度とコストが主要な競争要因となる、複数のモデルとエージェントが存在するエコシステムへの暗黙の賭けを表しています。これは、トークン支出を最適化するために顧客に複数のモデルへのアクセスを提供するOpenRouterの最近の1億1,300万ドルのシリーズB資金調達にも反映されています。
速度は価格設定と機能において重要です。Puklowskiは、長時間かかるコーディングエージェントの作業を5〜10分に短縮し、効率的な会話のための高速推論を可能にすることで、カスタマーサービス用のオーディオエージェントをより経済的にすることを目指しています。
「ChatGPTを使用して1秒あたり50トークンを生成する場合、それは人間の読書速度よりもはるかに速いですが」とPuklowskiはTechCrunchに語りました。「しかし、エージェントが私たちの代わりに読み取りやデータベース照問を行うエージェント間インタラクションへのシフトに伴い、はるかに高い速度で動作する必要があります。」
関連記事
食欲をそそらないAI生成メニューの背後にある同一性の問題
最初は、自分の精神状態を疑い始めるだろう。カフェに入り、ベージュのサンドイッチで満たされたメニューをスキャンするが、すべての画像が不気味なほど完璧に見える――対称性が完璧で、過度に滑らかだ――これは何かおかしいという直感的な感覚を引き起こす。あなたは錯覚を抱いているのではなく、あなたの直感は正しい。生成AIによる視覚表現は、レストラン業界に浸透しており、これは「魅力的な」美学に偏って訓練されたモデルによって駆動されており、それが本質的に間違っているように感じられるためである。時には、これらの画像
「Hello Robot」、シリコンバレー向けに家庭用ロボットの展開準備を進める
カリフォルニア州マルティネスは、サンフランシスコ・ベイエリアの北東端に位置し、シリコンバレーというテクノロジーの中心地からはほど遠い場所にある。ここには「ハロー・ロボット」というスタートアップ企業がある。同社は、わずか45マイル南で活動する南部のライバル企業が掲げる大仰な主張とは意図的に一線を画している。先月、「Hello Robot」は家庭用支援ロボット「Stretch」の第4世代モデルを発売し
旧インフォシス最高経営責任者のAIスタートアップがさらに5300万ドルの資金調達に成功
Hang Ten Systemsは、元インフォシスCEOのヴィシャール・シッカ氏が4ヶ月前に設立したAIスタートアップであり、追加の5300万ドルのシード資金を確保しました。会社からTechCrunchに提供された声明によると、この最新投資ラウンドは最初の3200万ドルのシードラウンド終了からわずか5週間で完了しました。タイセックの初期投資プラットフォームであるXoraが主導するこの新たな資金により、Hang Tenの総調達額は8500万ドルになりました。前回の投資をリードしたMayfield
関連特集おすすめ
コメント (0)
0/500

AIモデルの実行に必要な計算リソースへの需要が急増し続ける中、業界関係者はハードウェアの確保と、データセンターでの展開による収益化という2つの重大な課題に直面しています。
モデルの学習ではなく、ユーザーからのリクエストに応じる推論フェーズに特化した新種のネオクラウドプロバイダーであるGeneral Computeは、AIエコシステムの進化方向性を示すソリューションを提供しています。これらの戦略的優位性により、FUSE VCがリードし、Carya Venture PartnersやVillage Global Venturesが参加する1,500万ドルのシードラウンドで、企業価値6,000万ドルのバリュエーションでの資金調達を実現しました。
最適なチップの選定が最初の課題です。GPUへの需要は急増していますが、学習済みAIモデルの実行には必ずしも最も効率的な選択肢ではないことが認識されつつあります。推論に必要な計算要件は学習とは大きく異なり、この目的のために設計された新世代のチップの開発を促しています。12月にNvidiaがGroqを200億ドルで買収したこと、そして先週Cerebrasが570億ドル規模のIPOを実施したことは、このシフトを裏付けるものです。
GroqおよびCerebrasの容量制約を踏まえ、General Computeの共同創業者でありCEOのFinn PuklowskiとCTOのJason Goodisonは代替案を見出しました。彼らは、Intelの支援を受けたチップメーカーで、推論ソリューションに特化しておりシリコンバレーでの注目度が低いSambaNovaと提携しています。
SambaNovaが今年後半に新チップをリリースする際に、この状況は変化する可能性があります。このアーキテクチャはより高い柔軟性を提供し、推論計算中にコンテキストを保存するためにより多くのメモリを利用します。SambaNovaによれば、これらのチップはGPUだけでなく、GroqやCerebrasなどの競合他社による専用ハードウェアよりもパフォーマンスが高いとのことです。Puklowskiによると、新チップは標準的なGPUの約250トークン/秒に対して、1秒あたり600〜700トークンの速度を実現するとのことです。
General ComputeはSambaNovaのSN50チップを3億ドル分発注し、これらを展開する初のネオクラウドとなることを目指しています。
これらのチップは、もう一つの主要な課題である展開場所の問題にも対処しています。水冷ではなく空冷であり、消費電力が少ないため、新しいインフラ投資を必要とせずに既存のデータセンター施設に統合できます。
Puklowskiは、General Computeが第三者の施設に自社のハードウェアを設置するコロケーション契約を追求しています。これらのパートナーシップは従来のデータセンタープロバイダーを超え、特にビットコイン採掘のコストが市場価値を上回る状況下でインフラの再利用を模索するクリプトマイナーにも及びます。
General Computeは先週クラウドサービスを開始し、現在、強力なオープンソース大規模言語モデルであるMiniMax 2.7に対して最速のパフォーマンスを提供していると主張しています。
2021年、推論ブームの初期段階でGroqに出資したベンチャーキャピタル投資家のJoe Hasselmannは、今年AIに焦点を当てた新ファンドEvercrest Capital Partnersを立ち上げ、General Computeを最初の投資先としました。Hasselmannは、SambaNovaとGeneral Computeの提携がCoreweaveとNvidiaの関係、およびGroqのチップ製造と以前のクラウド提供の組み合わせに類似していると考えています。
「彼らは、高成長環境に自社のチップを設置する多様な顧客基盤を必要としています」とHasselmannは指摘しました。「General ComputeがSambaNovaに賭けているように、SambaNovaもGeneral Computeに賭けているのです。」
今後のAIにおいて、どのコンピュータアーキテクチャが最大の価値を確保するかという重要な問いが残っています。推論クラウドは、単一のプロバイダーが支配せず、速度とコストが主要な競争要因となる、複数のモデルとエージェントが存在するエコシステムへの暗黙の賭けを表しています。これは、トークン支出を最適化するために顧客に複数のモデルへのアクセスを提供するOpenRouterの最近の1億1,300万ドルのシリーズB資金調達にも反映されています。
速度は価格設定と機能において重要です。Puklowskiは、長時間かかるコーディングエージェントの作業を5〜10分に短縮し、効率的な会話のための高速推論を可能にすることで、カスタマーサービス用のオーディオエージェントをより経済的にすることを目指しています。
「ChatGPTを使用して1秒あたり50トークンを生成する場合、それは人間の読書速度よりもはるかに速いですが」とPuklowskiはTechCrunchに語りました。「しかし、エージェントが私たちの代わりに読み取りやデータベース照問を行うエージェント間インタラクションへのシフトに伴い、はるかに高い速度で動作する必要があります。」
食欲をそそらないAI生成メニューの背後にある同一性の問題
最初は、自分の精神状態を疑い始めるだろう。カフェに入り、ベージュのサンドイッチで満たされたメニューをスキャンするが、すべての画像が不気味なほど完璧に見える――対称性が完璧で、過度に滑らかだ――これは何かおかしいという直感的な感覚を引き起こす。あなたは錯覚を抱いているのではなく、あなたの直感は正しい。生成AIによる視覚表現は、レストラン業界に浸透しており、これは「魅力的な」美学に偏って訓練されたモデルによって駆動されており、それが本質的に間違っているように感じられるためである。時には、これらの画像
「Hello Robot」、シリコンバレー向けに家庭用ロボットの展開準備を進める
カリフォルニア州マルティネスは、サンフランシスコ・ベイエリアの北東端に位置し、シリコンバレーというテクノロジーの中心地からはほど遠い場所にある。ここには「ハロー・ロボット」というスタートアップ企業がある。同社は、わずか45マイル南で活動する南部のライバル企業が掲げる大仰な主張とは意図的に一線を画している。先月、「Hello Robot」は家庭用支援ロボット「Stretch」の第4世代モデルを発売し
旧インフォシス最高経営責任者のAIスタートアップがさらに5300万ドルの資金調達に成功
Hang Ten Systemsは、元インフォシスCEOのヴィシャール・シッカ氏が4ヶ月前に設立したAIスタートアップであり、追加の5300万ドルのシード資金を確保しました。会社からTechCrunchに提供された声明によると、この最新投資ラウンドは最初の3200万ドルのシードラウンド終了からわずか5週間で完了しました。タイセックの初期投資プラットフォームであるXoraが主導するこの新たな資金により、Hang Tenの総調達額は8500万ドルになりました。前回の投資をリードしたMayfield





家






