Niv-AI llega para potenciar la capacidad y el rendimiento de las GPU

La electricidad es un recurso fundamental para la inteligencia artificial, pero los nuevos métodos computacionales están superando la capacidad de los operadores de centros de datos para gestionar eficazmente sus interacciones con la red eléctrica, lo que les obliga a reducir sus operaciones hasta en un 30 %.

«En estas instalaciones de IA se desperdicia una enorme cantidad de energía», afirmó el director ejecutivo de Nvidia, Jensen Huang, durante su discurso inaugural en la conferencia anual GTC de la empresa. «Cada vatio no utilizado representa una pérdida de ingresos», subrayó la empresa en su presentación anual.

Hoy, la startup Niv-AI ha salido al mercado con una financiación inicial de 12 millones de dólares para abordar este problema. La empresa tiene como objetivo medir con precisión el consumo energético de las GPU mediante sensores innovadores y crear herramientas para una gestión energética más eficiente.

Fundada el año pasado en Tel Aviv por el director ejecutivo Tomer Timor y el director técnico Edward Kizis, la startup cuenta con el respaldo de Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward y Aurora Capital Partners. La empresa ha optado por no revelar su valoración.

A medida que los principales laboratorios de IA coordinan miles de GPU para entrenar y ejecutar modelos sofisticados, se producen picos de potencia rápidos, a escala de milisegundos, cuando los procesadores alternan entre tareas computacionales y la comunicación entre GPU.

Estas subidas complican la capacidad de los centros de datos para regular su consumo de energía de la red eléctrica. Para evitar cortes, los centros de datos invierten en almacenamiento temporal de energía para amortiguar estos picos o reducen el uso de las GPU. Ambos enfoques disminuyen el retorno de la inversión en hardware costoso.

«Simplemente no podemos seguir construyendo centros de datos utilizando los métodos actuales», señaló Lior Handlesman, socio de Grove Ventures y miembro del consejo de administración de Niv.

La fase inicial de la estrategia de Niv consiste en obtener información detallada. La empresa está instalando actualmente sensores a nivel de rack que monitorizan el consumo de energía de las GPU a intervalos de milisegundos en su propio hardware y en el de sus socios de diseño. El objetivo es analizar los distintos patrones de consumo de energía de diversas cargas de trabajo de aprendizaje profundo y desarrollar métodos que ayuden a los centros de datos a utilizar mejor su capacidad existente.

El equipo de ingeniería tiene previsto crear un modelo de IA utilizando los datos recopilados, con el objetivo de entrenarlo para predecir y coordinar las cargas de energía en todo el centro de datos, creando así, en la práctica, un «copiloto» para los ingenieros de las instalaciones.

Niv prevé implementar un sistema operativo en varios centros de datos de EE. UU. en los próximos seis a ocho meses. Esta solución resulta especialmente atractiva, ya que los principales proveedores de nube se enfrentan a retos relacionados con el uso del suelo y las interrupciones en la cadena de suministro a la hora de construir nuevas instalaciones. Los fundadores conciben su producto final como una «capa de inteligencia» crucial que tiende un puente entre los centros de datos y la red eléctrica.

«La red eléctrica está realmente preocupada por el consumo excesivo de energía de los centros de datos en las horas punta», explicó Timor a TechCrunch. «El problema que estamos abordando tiene dos aspectos interrelacionados. En primer lugar, nuestro objetivo es ayudar a los centros de datos a aprovechar mejor sus GPU, maximizando la potencia para la que ya tienen contrato. En segundo lugar, podemos fomentar perfiles de consumo energético más responsables entre los centros de datos y la red eléctrica».