Niv-AIが登場、GPUの処理能力とパフォーマンスを強化

電力は人工知能にとって不可欠な資源ですが、新たな計算手法の登場により、データセンター事業者が電力網との連携を効果的に管理する能力が追いつかず、最大30%の稼働率削減を余儀なくされています。
「これらのAI施設では膨大な量のエネルギーが無駄にされています」と、NVIDIAのジェンセン・フアンCEOは同社の年次カンファレンス「GTC」での基調講演で述べました。「利用されない1ワットごとに収益の損失につながります」と同社は年次プレゼンテーションで強調しました。
この問題に対処するため、スタートアップ企業のNiv-AIが本日、1,200万ドルのシード資金を調達して設立された。同社は、独自のセンサーを用いてGPUの電力消費量を正確に測定し、より効率的なエネルギー管理のためのツールを開発することを目指している。
昨年、CEOのトマー・ティモール氏とCTOのエドワード・キジス氏によってテルアビブで設立されたこのスタートアップは、Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward、Aurora Capital Partnersから支援を受けている。同社は企業価値の開示を見送った。
主要なAI研究所では、高度なモデルのトレーニングや実行のために数千台のGPUを連携させていますが、プロセッサが計算タスクとGPU間通信を切り替える際に、ミリ秒単位の急激な電力消費の急増が発生します。
こうした電力サージは、データセンターが電力網からの電力消費を調整する能力を複雑化させる。電力不足を防ぐため、データセンターは一時的なエネルギー貯蔵設備に投資してこれらの急増を緩和するか、GPUの使用を制限するかのいずれかを選択せざるを得ない。どちらのアプローチも、高価なハードウェアに対する投資収益率を低下させる。
「現在の方法では、もはやデータセンターを建設し続けることはできません」と、Grove VenturesのパートナーでありNivの取締役でもあるLior Handlesman氏は述べた。
Nivの戦略の初期段階は、詳細な知見の獲得にあります。同社は現在、自社ハードウェアおよび設計パートナーの設備に、GPUの電力使用量をミリ秒単位で監視するラックレベルのセンサーを設置しています。その目的は、さまざまなディープラーニングワークロードの固有の電力パターンを分析し、データセンターが既存の容量をより有効に活用できるよう支援する手法を開発することです。
エンジニアリングチームは、収集したデータを用いてAIモデルを構築し、データセンター全体の電力負荷を予測・調整できるように訓練することを計画している。これにより、施設エンジニアのための「コパイロット」を事実上創出することになる。
Niv氏は、今後6~8ヶ月以内に米国内の数カ所のデータセンターで実用的なシステムを展開できると見込んでいる。主要なクラウドプロバイダーが新施設の建設において土地利用やサプライチェーンの混乱といった課題に直面している中、このソリューションは特に魅力的だ。創業者は、最終的な製品をデータセンターと電力網をつなぐ重要な「インテリジェンス層」として位置付けている。
「電力網側は、ピーク時にデータセンターが過剰な電力を引き出すことを真に懸念しています」と、ティモール氏はTechCrunchに説明した。「私たちが取り組んでいる課題には、相互に関連する2つの側面があります。第一に、データセンターがGPUをより有効に活用し、すでに契約済みの電力を最大限に活用できるよう支援することです。第二に、データセンターと電力網の間で、より責任ある電力消費パターンを促進できることです。」
関連記事
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン
カリフォルニア州の自動運転車規制:違反切符、ジオフェンス、そして100万マイルという新たな時代
Guident社は南フロリダでAuveTechのシャトルを運行しており、同社の遠隔監視技術を活用して、ウェストパームビーチでの4マイルのルートとボカラトンでの1マイルのルートを管理している。 | 提供:Guidentカリフォルニア州は、自動運転車の規制環境を再定義しつつあり、テクノロジー業界の「迅速に動き、失敗を恐れない」という考え方から、厳格な説明責任と厳しい走行距離要件へと移行している。Gui
関連特集おすすめ
コメント (0)
0/500

電力は人工知能にとって不可欠な資源ですが、新たな計算手法の登場により、データセンター事業者が電力網との連携を効果的に管理する能力が追いつかず、最大30%の稼働率削減を余儀なくされています。
「これらのAI施設では膨大な量のエネルギーが無駄にされています」と、NVIDIAのジェンセン・フアンCEOは同社の年次カンファレンス「GTC」での基調講演で述べました。「利用されない1ワットごとに収益の損失につながります」と同社は年次プレゼンテーションで強調しました。
この問題に対処するため、スタートアップ企業のNiv-AIが本日、1,200万ドルのシード資金を調達して設立された。同社は、独自のセンサーを用いてGPUの電力消費量を正確に測定し、より効率的なエネルギー管理のためのツールを開発することを目指している。
昨年、CEOのトマー・ティモール氏とCTOのエドワード・キジス氏によってテルアビブで設立されたこのスタートアップは、Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward、Aurora Capital Partnersから支援を受けている。同社は企業価値の開示を見送った。
主要なAI研究所では、高度なモデルのトレーニングや実行のために数千台のGPUを連携させていますが、プロセッサが計算タスクとGPU間通信を切り替える際に、ミリ秒単位の急激な電力消費の急増が発生します。
こうした電力サージは、データセンターが電力網からの電力消費を調整する能力を複雑化させる。電力不足を防ぐため、データセンターは一時的なエネルギー貯蔵設備に投資してこれらの急増を緩和するか、GPUの使用を制限するかのいずれかを選択せざるを得ない。どちらのアプローチも、高価なハードウェアに対する投資収益率を低下させる。
「現在の方法では、もはやデータセンターを建設し続けることはできません」と、Grove VenturesのパートナーでありNivの取締役でもあるLior Handlesman氏は述べた。
Nivの戦略の初期段階は、詳細な知見の獲得にあります。同社は現在、自社ハードウェアおよび設計パートナーの設備に、GPUの電力使用量をミリ秒単位で監視するラックレベルのセンサーを設置しています。その目的は、さまざまなディープラーニングワークロードの固有の電力パターンを分析し、データセンターが既存の容量をより有効に活用できるよう支援する手法を開発することです。
エンジニアリングチームは、収集したデータを用いてAIモデルを構築し、データセンター全体の電力負荷を予測・調整できるように訓練することを計画している。これにより、施設エンジニアのための「コパイロット」を事実上創出することになる。
Niv氏は、今後6~8ヶ月以内に米国内の数カ所のデータセンターで実用的なシステムを展開できると見込んでいる。主要なクラウドプロバイダーが新施設の建設において土地利用やサプライチェーンの混乱といった課題に直面している中、このソリューションは特に魅力的だ。創業者は、最終的な製品をデータセンターと電力網をつなぐ重要な「インテリジェンス層」として位置付けている。
「電力網側は、ピーク時にデータセンターが過剰な電力を引き出すことを真に懸念しています」と、ティモール氏はTechCrunchに説明した。「私たちが取り組んでいる課題には、相互に関連する2つの側面があります。第一に、データセンターがGPUをより有効に活用し、すでに契約済みの電力を最大限に活用できるよう支援することです。第二に、データセンターと電力網の間で、より責任ある電力消費パターンを促進できることです。」
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン





家






