Niv-AIが登場、GPUの処理能力とパフォーマンスを強化

電力は人工知能にとって不可欠な資源ですが、新たな計算手法の登場により、データセンター事業者が電力網との連携を効果的に管理する能力が追いつかず、最大30%の稼働率削減を余儀なくされています。
「これらのAI施設では膨大な量のエネルギーが無駄にされています」と、NVIDIAのジェンセン・フアンCEOは同社の年次カンファレンス「GTC」での基調講演で述べました。「利用されない1ワットごとに収益の損失につながります」と同社は年次プレゼンテーションで強調しました。
この問題に対処するため、スタートアップ企業のNiv-AIが本日、1,200万ドルのシード資金を調達して設立された。同社は、独自のセンサーを用いてGPUの電力消費量を正確に測定し、より効率的なエネルギー管理のためのツールを開発することを目指している。
昨年、CEOのトマー・ティモール氏とCTOのエドワード・キジス氏によってテルアビブで設立されたこのスタートアップは、Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward、Aurora Capital Partnersから支援を受けている。同社は企業価値の開示を見送った。
主要なAI研究所では、高度なモデルのトレーニングや実行のために数千台のGPUを連携させていますが、プロセッサが計算タスクとGPU間通信を切り替える際に、ミリ秒単位の急激な電力消費の急増が発生します。
こうした電力サージは、データセンターが電力網からの電力消費を調整する能力を複雑化させる。電力不足を防ぐため、データセンターは一時的なエネルギー貯蔵設備に投資してこれらの急増を緩和するか、GPUの使用を制限するかのいずれかを選択せざるを得ない。どちらのアプローチも、高価なハードウェアに対する投資収益率を低下させる。
「現在の方法では、もはやデータセンターを建設し続けることはできません」と、Grove VenturesのパートナーでありNivの取締役でもあるLior Handlesman氏は述べた。
Nivの戦略の初期段階は、詳細な知見の獲得にあります。同社は現在、自社ハードウェアおよび設計パートナーの設備に、GPUの電力使用量をミリ秒単位で監視するラックレベルのセンサーを設置しています。その目的は、さまざまなディープラーニングワークロードの固有の電力パターンを分析し、データセンターが既存の容量をより有効に活用できるよう支援する手法を開発することです。
エンジニアリングチームは、収集したデータを用いてAIモデルを構築し、データセンター全体の電力負荷を予測・調整できるように訓練することを計画している。これにより、施設エンジニアのための「コパイロット」を事実上創出することになる。
Niv氏は、今後6~8ヶ月以内に米国内の数カ所のデータセンターで実用的なシステムを展開できると見込んでいる。主要なクラウドプロバイダーが新施設の建設において土地利用やサプライチェーンの混乱といった課題に直面している中、このソリューションは特に魅力的だ。創業者は、最終的な製品をデータセンターと電力網をつなぐ重要な「インテリジェンス層」として位置付けている。
「電力網側は、ピーク時にデータセンターが過剰な電力を引き出すことを真に懸念しています」と、ティモール氏はTechCrunchに説明した。「私たちが取り組んでいる課題には、相互に関連する2つの側面があります。第一に、データセンターがGPUをより有効に活用し、すでに契約済みの電力を最大限に活用できるよう支援することです。第二に、データセンターと電力網の間で、より責任ある電力消費パターンを促進できることです。」
関連記事
Zhiyuan WITA、初のコンプライアンス報告書の提出により「裸の」ロボットとの対話を終了
具現化知能分野において、重要な節目を迎えました。上海サイバー空間管理局の最新の発表によると、智源(Zhiyuan)が開発したWITA大規模モデルは届出手続きを無事に完了し、国内で初めて法規制に準拠して展開された具現化知能対話用大規模モデルとなりました。この成果は、単にライセンスを取得しただけにとどまらない。WITAの核心的な目的は、ヒューマノイドロボットが真の意味で会話し、感情を認識し、独自の個性
ある人類学的研究によると、洗練されたAIコンテンツは人間の思考力の低下と関連しているという
AIが、構成が整い、論理的に明快なコードや文書を瞬時に生成するのを見ると、何も疑うことなくそれを信用したくなってしまいませんか?AI分野のリーディングカンパニーであるAnthropicは、AIbaseによると、最近「AI流暢性指数(AI Fluency Index)」と題した調査報告書を発表しました。 約1万件の匿名化されたClaudeの会話サンプルを分析した結果、この調査では懸念すべき傾向が明ら
英国政府の各省庁、AIデータセンターのエネルギー需要を巡り対立
英国政府は、クリーンエネルギーの推進と、人工知能(AI)分野における世界的なリーダーとなることを目指すという、大きな課題に直面している。しかし、これらの目標を担当する省庁の間には、深刻な不整合が見られる。 科学・イノベーション・技術省(DSIT)とエネルギー安全保障・ネットゼロ省(DESNZ)は、AIデータセンターの将来の電力需要について、著しく対照的な予測を提示している。DSITは、2030年ま
関連特集おすすめ
コメント (0)
0/500

電力は人工知能にとって不可欠な資源ですが、新たな計算手法の登場により、データセンター事業者が電力網との連携を効果的に管理する能力が追いつかず、最大30%の稼働率削減を余儀なくされています。
「これらのAI施設では膨大な量のエネルギーが無駄にされています」と、NVIDIAのジェンセン・フアンCEOは同社の年次カンファレンス「GTC」での基調講演で述べました。「利用されない1ワットごとに収益の損失につながります」と同社は年次プレゼンテーションで強調しました。
この問題に対処するため、スタートアップ企業のNiv-AIが本日、1,200万ドルのシード資金を調達して設立された。同社は、独自のセンサーを用いてGPUの電力消費量を正確に測定し、より効率的なエネルギー管理のためのツールを開発することを目指している。
昨年、CEOのトマー・ティモール氏とCTOのエドワード・キジス氏によってテルアビブで設立されたこのスタートアップは、Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward、Aurora Capital Partnersから支援を受けている。同社は企業価値の開示を見送った。
主要なAI研究所では、高度なモデルのトレーニングや実行のために数千台のGPUを連携させていますが、プロセッサが計算タスクとGPU間通信を切り替える際に、ミリ秒単位の急激な電力消費の急増が発生します。
こうした電力サージは、データセンターが電力網からの電力消費を調整する能力を複雑化させる。電力不足を防ぐため、データセンターは一時的なエネルギー貯蔵設備に投資してこれらの急増を緩和するか、GPUの使用を制限するかのいずれかを選択せざるを得ない。どちらのアプローチも、高価なハードウェアに対する投資収益率を低下させる。
「現在の方法では、もはやデータセンターを建設し続けることはできません」と、Grove VenturesのパートナーでありNivの取締役でもあるLior Handlesman氏は述べた。
Nivの戦略の初期段階は、詳細な知見の獲得にあります。同社は現在、自社ハードウェアおよび設計パートナーの設備に、GPUの電力使用量をミリ秒単位で監視するラックレベルのセンサーを設置しています。その目的は、さまざまなディープラーニングワークロードの固有の電力パターンを分析し、データセンターが既存の容量をより有効に活用できるよう支援する手法を開発することです。
エンジニアリングチームは、収集したデータを用いてAIモデルを構築し、データセンター全体の電力負荷を予測・調整できるように訓練することを計画している。これにより、施設エンジニアのための「コパイロット」を事実上創出することになる。
Niv氏は、今後6~8ヶ月以内に米国内の数カ所のデータセンターで実用的なシステムを展開できると見込んでいる。主要なクラウドプロバイダーが新施設の建設において土地利用やサプライチェーンの混乱といった課題に直面している中、このソリューションは特に魅力的だ。創業者は、最終的な製品をデータセンターと電力網をつなぐ重要な「インテリジェンス層」として位置付けている。
「電力網側は、ピーク時にデータセンターが過剰な電力を引き出すことを真に懸念しています」と、ティモール氏はTechCrunchに説明した。「私たちが取り組んでいる課題には、相互に関連する2つの側面があります。第一に、データセンターがGPUをより有効に活用し、すでに契約済みの電力を最大限に活用できるよう支援することです。第二に、データセンターと電力網の間で、より責任ある電力消費パターンを促進できることです。」
Zhiyuan WITA、初のコンプライアンス報告書の提出により「裸の」ロボットとの対話を終了
具現化知能分野において、重要な節目を迎えました。上海サイバー空間管理局の最新の発表によると、智源(Zhiyuan)が開発したWITA大規模モデルは届出手続きを無事に完了し、国内で初めて法規制に準拠して展開された具現化知能対話用大規模モデルとなりました。この成果は、単にライセンスを取得しただけにとどまらない。WITAの核心的な目的は、ヒューマノイドロボットが真の意味で会話し、感情を認識し、独自の個性
ある人類学的研究によると、洗練されたAIコンテンツは人間の思考力の低下と関連しているという
AIが、構成が整い、論理的に明快なコードや文書を瞬時に生成するのを見ると、何も疑うことなくそれを信用したくなってしまいませんか?AI分野のリーディングカンパニーであるAnthropicは、AIbaseによると、最近「AI流暢性指数(AI Fluency Index)」と題した調査報告書を発表しました。 約1万件の匿名化されたClaudeの会話サンプルを分析した結果、この調査では懸念すべき傾向が明ら
英国政府の各省庁、AIデータセンターのエネルギー需要を巡り対立
英国政府は、クリーンエネルギーの推進と、人工知能(AI)分野における世界的なリーダーとなることを目指すという、大きな課題に直面している。しかし、これらの目標を担当する省庁の間には、深刻な不整合が見られる。 科学・イノベーション・技術省(DSIT)とエネルギー安全保障・ネットゼロ省(DESNZ)は、AIデータセンターの将来の電力需要について、著しく対照的な予測を提示している。DSITは、2030年ま





家






