Niv-AI llega para potenciar la capacidad y el rendimiento de las GPU

La electricidad es un recurso fundamental para la inteligencia artificial, pero los nuevos métodos computacionales están superando la capacidad de los operadores de centros de datos para gestionar eficazmente sus interacciones con la red eléctrica, lo que les obliga a reducir sus operaciones hasta en un 30 %.
«En estas instalaciones de IA se desperdicia una enorme cantidad de energía», afirmó el director ejecutivo de Nvidia, Jensen Huang, durante su discurso inaugural en la conferencia anual GTC de la empresa. «Cada vatio no utilizado representa una pérdida de ingresos», subrayó la empresa en su presentación anual.
Hoy, la startup Niv-AI ha salido al mercado con una financiación inicial de 12 millones de dólares para abordar este problema. La empresa tiene como objetivo medir con precisión el consumo energético de las GPU mediante sensores innovadores y crear herramientas para una gestión energética más eficiente.
Fundada el año pasado en Tel Aviv por el director ejecutivo Tomer Timor y el director técnico Edward Kizis, la startup cuenta con el respaldo de Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward y Aurora Capital Partners. La empresa ha optado por no revelar su valoración.
A medida que los principales laboratorios de IA coordinan miles de GPU para entrenar y ejecutar modelos sofisticados, se producen picos de potencia rápidos, a escala de milisegundos, cuando los procesadores alternan entre tareas computacionales y la comunicación entre GPU.
Estas subidas complican la capacidad de los centros de datos para regular su consumo de energía de la red eléctrica. Para evitar cortes, los centros de datos invierten en almacenamiento temporal de energía para amortiguar estos picos o reducen el uso de las GPU. Ambos enfoques disminuyen el retorno de la inversión en hardware costoso.
«Simplemente no podemos seguir construyendo centros de datos utilizando los métodos actuales», señaló Lior Handlesman, socio de Grove Ventures y miembro del consejo de administración de Niv.
La fase inicial de la estrategia de Niv consiste en obtener información detallada. La empresa está instalando actualmente sensores a nivel de rack que monitorizan el consumo de energía de las GPU a intervalos de milisegundos en su propio hardware y en el de sus socios de diseño. El objetivo es analizar los distintos patrones de consumo de energía de diversas cargas de trabajo de aprendizaje profundo y desarrollar métodos que ayuden a los centros de datos a utilizar mejor su capacidad existente.
El equipo de ingeniería tiene previsto crear un modelo de IA utilizando los datos recopilados, con el objetivo de entrenarlo para predecir y coordinar las cargas de energía en todo el centro de datos, creando así, en la práctica, un «copiloto» para los ingenieros de las instalaciones.
Niv prevé implementar un sistema operativo en varios centros de datos de EE. UU. en los próximos seis a ocho meses. Esta solución resulta especialmente atractiva, ya que los principales proveedores de nube se enfrentan a retos relacionados con el uso del suelo y las interrupciones en la cadena de suministro a la hora de construir nuevas instalaciones. Los fundadores conciben su producto final como una «capa de inteligencia» crucial que tiende un puente entre los centros de datos y la red eléctrica.
«La red eléctrica está realmente preocupada por el consumo excesivo de energía de los centros de datos en las horas punta», explicó Timor a TechCrunch. «El problema que estamos abordando tiene dos aspectos interrelacionados. En primer lugar, nuestro objetivo es ayudar a los centros de datos a aprovechar mejor sus GPU, maximizando la potencia para la que ya tienen contrato. En segundo lugar, podemos fomentar perfiles de consumo energético más responsables entre los centros de datos y la red eléctrica».
Artículo relacionado
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en
Cumplimiento de la normativa sobre vehículos autónomos en California: una nueva era de multas, geovallas y 1 millón de millas
Guident opera un servicio de transporte de AuveTech en el sur de Florida, gestionando una ruta de cuatro millas en West Palm Beach y otra de una milla en Boca Ratón mediante su tecnología de monitoriz
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

La electricidad es un recurso fundamental para la inteligencia artificial, pero los nuevos métodos computacionales están superando la capacidad de los operadores de centros de datos para gestionar eficazmente sus interacciones con la red eléctrica, lo que les obliga a reducir sus operaciones hasta en un 30 %.
«En estas instalaciones de IA se desperdicia una enorme cantidad de energía», afirmó el director ejecutivo de Nvidia, Jensen Huang, durante su discurso inaugural en la conferencia anual GTC de la empresa. «Cada vatio no utilizado representa una pérdida de ingresos», subrayó la empresa en su presentación anual.
Hoy, la startup Niv-AI ha salido al mercado con una financiación inicial de 12 millones de dólares para abordar este problema. La empresa tiene como objetivo medir con precisión el consumo energético de las GPU mediante sensores innovadores y crear herramientas para una gestión energética más eficiente.
Fundada el año pasado en Tel Aviv por el director ejecutivo Tomer Timor y el director técnico Edward Kizis, la startup cuenta con el respaldo de Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward y Aurora Capital Partners. La empresa ha optado por no revelar su valoración.
A medida que los principales laboratorios de IA coordinan miles de GPU para entrenar y ejecutar modelos sofisticados, se producen picos de potencia rápidos, a escala de milisegundos, cuando los procesadores alternan entre tareas computacionales y la comunicación entre GPU.
Estas subidas complican la capacidad de los centros de datos para regular su consumo de energía de la red eléctrica. Para evitar cortes, los centros de datos invierten en almacenamiento temporal de energía para amortiguar estos picos o reducen el uso de las GPU. Ambos enfoques disminuyen el retorno de la inversión en hardware costoso.
«Simplemente no podemos seguir construyendo centros de datos utilizando los métodos actuales», señaló Lior Handlesman, socio de Grove Ventures y miembro del consejo de administración de Niv.
La fase inicial de la estrategia de Niv consiste en obtener información detallada. La empresa está instalando actualmente sensores a nivel de rack que monitorizan el consumo de energía de las GPU a intervalos de milisegundos en su propio hardware y en el de sus socios de diseño. El objetivo es analizar los distintos patrones de consumo de energía de diversas cargas de trabajo de aprendizaje profundo y desarrollar métodos que ayuden a los centros de datos a utilizar mejor su capacidad existente.
El equipo de ingeniería tiene previsto crear un modelo de IA utilizando los datos recopilados, con el objetivo de entrenarlo para predecir y coordinar las cargas de energía en todo el centro de datos, creando así, en la práctica, un «copiloto» para los ingenieros de las instalaciones.
Niv prevé implementar un sistema operativo en varios centros de datos de EE. UU. en los próximos seis a ocho meses. Esta solución resulta especialmente atractiva, ya que los principales proveedores de nube se enfrentan a retos relacionados con el uso del suelo y las interrupciones en la cadena de suministro a la hora de construir nuevas instalaciones. Los fundadores conciben su producto final como una «capa de inteligencia» crucial que tiende un puente entre los centros de datos y la red eléctrica.
«La red eléctrica está realmente preocupada por el consumo excesivo de energía de los centros de datos en las horas punta», explicó Timor a TechCrunch. «El problema que estamos abordando tiene dos aspectos interrelacionados. En primer lugar, nuestro objetivo es ayudar a los centros de datos a aprovechar mejor sus GPU, maximizando la potencia para la que ya tienen contrato. En segundo lugar, podemos fomentar perfiles de consumo energético más responsables entre los centros de datos y la red eléctrica».
CEO de DeepMind, Hassabis: Duermo seis horas al día y generalmente me siento con energía alrededor de la 1 a. m.
Fortune ha presentado recientemente una entrevista con Demis Hassabis, director ejecutivo de Google DeepMind, en la que revela su enfoque poco convencional para el descanso y la productividad. Hassabis ha revelado que duerme muy poco, estructurando s
OpenAI y Anthropic compiten por la cuota de mercado a pesar de la caída de los ingresos
A pesar de los recientes informes que sugieren que OpenAI no ha alcanzado sus objetivos de ingresos —lo que ha generado presión sobre las acciones tecnológicas este martes—, los inversores privados en





Hogar






