AI Computing para consumir la potencia de múltiples NYC para 2026, dice el fundador
Nvidia y socios amplían centros de datos de IA a nivel mundial
Nvidia, junto con sus socios y clientes, ha estado expandiendo activamente el tamaño de las instalaciones informáticas en todo el mundo para satisfacer las altas demandas computacionales de entrenar modelos masivos de inteligencia artificial (IA) como GPT-4. Esta expansión se volverá aún más crucial a medida que se implementen más modelos de IA en producción, según Thomas Graham, cofundador de la startup de computación óptica Lightmatter. En una reciente entrevista en Nueva York con Mandeep Singh, analista senior de tecnología de Bloomberg Intelligence, Graham destacó la creciente necesidad de recursos computacionales.
"La demanda de más capacidad de cómputo no se trata solo de leyes de escalado; también se trata de implementar estos modelos de IA ahora," explicó Graham. Singh preguntó sobre el futuro de los modelos de lenguaje de gran escala (LLMs) como GPT-4 y si seguirían creciendo en tamaño. En respuesta, Graham cambió el enfoque hacia la aplicación práctica de la IA, enfatizando la importancia de la inferencia, o la fase de implementación, que requiere un poder computacional sustancial.
"Si consideras el entrenamiento como I+D, la inferencia es esencialmente la implementación. A medida que implementas, necesitarás computadoras de gran escala para ejecutar tus modelos," afirmó Graham durante la conferencia "Gen AI: ¿Puede cumplir con la promesa de productividad?" organizada por Bloomberg Intelligence.
La perspectiva de Graham coincide con la del CEO de Nvidia, Jensen Huang, quien ha enfatizado a Wall Street que avanzar en formas de IA "agentic" requerirá no solo un entrenamiento más sofisticado, sino también capacidades de inferencia significativamente mejoradas, lo que resultará en un aumento exponencial en los requisitos de cómputo.

"Si ves el entrenamiento como I+D, la inferencia es realmente la implementación, y a medida que implementas eso, vas a necesitar computadoras grandes para ejecutar tus modelos," dijo Graham. Foto: Bloomberg, cortesía de Craig Warga El papel de Lightmatter en la infraestructura de IA
Fundada en 2018, Lightmatter está a la vanguardia del desarrollo de tecnología de chips que utiliza conexiones ópticas para vincular múltiples procesadores en un solo dado semiconductor. Estas interconexiones ópticas pueden transferir datos de manera más eficiente que los cables de cobre tradicionales, utilizando menos energía. Esta tecnología puede optimizar las conexiones dentro y entre los racks de los centros de datos, mejorando la eficiencia general y la economía del centro de datos, según Graham.
"Al reemplazar las trazas de cobre en los centros de datos, tanto en la placa de circuito impreso del servidor como en el cableado entre racks, con fibra óptica, podemos aumentar drásticamente el ancho de banda," dijo Graham a Singh. Lightmatter está colaborando actualmente con varias empresas tecnológicas en el diseño de nuevos centros de datos, y Graham señaló que estas instalaciones se están construyendo desde cero. La compañía ya ha establecido una asociación con Global Foundries, un fabricante de semiconductores por contrato con operaciones en el norte de Nueva York, que atiende a clientes como Advanced Micro Devices.
Aunque Graham no reveló socios ni clientes específicos más allá de esta colaboración, insinuó que Lightmatter trabaja con proveedores de silicio como Broadcom o Marvell para crear componentes personalizados para gigantes tecnológicos como Google, Amazon y Microsoft, que diseñan sus propios procesadores para centros de datos.
La escala y el futuro de los centros de datos de IA
Para ilustrar la magnitud de la implementación de IA, Graham señaló que al menos una docena de nuevos centros de datos de IA están planificados o en construcción, cada uno requiriendo un gigavatio de energía. "Para contextualizar, la ciudad de Nueva York usa alrededor de cinco gigavatios de energía en un día promedio. Así que, estamos hablando del consumo de energía de múltiples ciudades de Nueva York," dijo. Predice que para 2026, el procesamiento global de IA demandará 40 gigavatios de energía, equivalente a ocho ciudades de Nueva York, específicamente para centros de datos de IA.
Lightmatter recientemente aseguró una inversión de capital de riesgo de $400 millones, valorando a la compañía en $4.4 mil millones. Graham mencionó que la compañía planea comenzar la producción "en los próximos años."
Cuando se le preguntó sobre posibles interrupciones en los planes de Lightmatter, Graham expresó confianza en la necesidad continua de expandir la infraestructura de cómputo de IA. Sin embargo, reconoció que un avance en los algoritmos de IA que requiera significativamente menos cómputo o que logre una inteligencia general artificial (AGI) más rápidamente podría desafiar las suposiciones actuales sobre la necesidad de un crecimiento exponencial del cómputo.
Artículo relacionado
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad
Recomendaciones de temas especiales relacionados
comentario (37)
0/500
So we're basically trading human brainpower for literal power plants? AI is cool but the energy cost is insane. 😅
Holy crap, that's a lot of juice! 😅 I knew AI training was power-hungry, but comparing it to multiple NYC's worth of electricity by 2026 really puts it in perspective. Are we just gonna ignore the environmental cost while chasing bigger models? Hope Nvidia's got some efficiency tricks up their sleeves...
So AI's energy consumption might outpace entire cities? 😳 That puts the 'cost' of innovation into a whole new perspective. Will there be a breakthrough in energy-efficient hardware soon, or are we just betting on renewable energy scaling fast enough?
Wow, Energieverbrauch wie mehrere New Yorks bis 2026? Das ist krass. Die AI-Boom ist ja mega spannend, aber wenn Data Center bald mehr Strom als Länder fressen... irgendwie gruselig. Macht man sich Gedanken über Klima und ob das wirklich nachhaltig ist. 🤔 Hoffentlich forscht man auch an effizienteren Lösungen, sonst knallt's.
AIの消費電力がニューヨーク市全体を超えるなんて…技術革新と環境負荷のバランスが気になりますね。電力を食い尽くす前に再生可能エネルギーへの移行が必要では?🌍 日本でもAIデータセンターの増設が進んでいますが、電力問題は他人事じゃないです。
Nvidia y socios amplían centros de datos de IA a nivel mundial
Nvidia, junto con sus socios y clientes, ha estado expandiendo activamente el tamaño de las instalaciones informáticas en todo el mundo para satisfacer las altas demandas computacionales de entrenar modelos masivos de inteligencia artificial (IA) como GPT-4. Esta expansión se volverá aún más crucial a medida que se implementen más modelos de IA en producción, según Thomas Graham, cofundador de la startup de computación óptica Lightmatter. En una reciente entrevista en Nueva York con Mandeep Singh, analista senior de tecnología de Bloomberg Intelligence, Graham destacó la creciente necesidad de recursos computacionales.
"La demanda de más capacidad de cómputo no se trata solo de leyes de escalado; también se trata de implementar estos modelos de IA ahora," explicó Graham. Singh preguntó sobre el futuro de los modelos de lenguaje de gran escala (LLMs) como GPT-4 y si seguirían creciendo en tamaño. En respuesta, Graham cambió el enfoque hacia la aplicación práctica de la IA, enfatizando la importancia de la inferencia, o la fase de implementación, que requiere un poder computacional sustancial.
"Si consideras el entrenamiento como I+D, la inferencia es esencialmente la implementación. A medida que implementas, necesitarás computadoras de gran escala para ejecutar tus modelos," afirmó Graham durante la conferencia "Gen AI: ¿Puede cumplir con la promesa de productividad?" organizada por Bloomberg Intelligence.
La perspectiva de Graham coincide con la del CEO de Nvidia, Jensen Huang, quien ha enfatizado a Wall Street que avanzar en formas de IA "agentic" requerirá no solo un entrenamiento más sofisticado, sino también capacidades de inferencia significativamente mejoradas, lo que resultará en un aumento exponencial en los requisitos de cómputo.

El papel de Lightmatter en la infraestructura de IA
Fundada en 2018, Lightmatter está a la vanguardia del desarrollo de tecnología de chips que utiliza conexiones ópticas para vincular múltiples procesadores en un solo dado semiconductor. Estas interconexiones ópticas pueden transferir datos de manera más eficiente que los cables de cobre tradicionales, utilizando menos energía. Esta tecnología puede optimizar las conexiones dentro y entre los racks de los centros de datos, mejorando la eficiencia general y la economía del centro de datos, según Graham.
"Al reemplazar las trazas de cobre en los centros de datos, tanto en la placa de circuito impreso del servidor como en el cableado entre racks, con fibra óptica, podemos aumentar drásticamente el ancho de banda," dijo Graham a Singh. Lightmatter está colaborando actualmente con varias empresas tecnológicas en el diseño de nuevos centros de datos, y Graham señaló que estas instalaciones se están construyendo desde cero. La compañía ya ha establecido una asociación con Global Foundries, un fabricante de semiconductores por contrato con operaciones en el norte de Nueva York, que atiende a clientes como Advanced Micro Devices.
Aunque Graham no reveló socios ni clientes específicos más allá de esta colaboración, insinuó que Lightmatter trabaja con proveedores de silicio como Broadcom o Marvell para crear componentes personalizados para gigantes tecnológicos como Google, Amazon y Microsoft, que diseñan sus propios procesadores para centros de datos.
La escala y el futuro de los centros de datos de IA
Para ilustrar la magnitud de la implementación de IA, Graham señaló que al menos una docena de nuevos centros de datos de IA están planificados o en construcción, cada uno requiriendo un gigavatio de energía. "Para contextualizar, la ciudad de Nueva York usa alrededor de cinco gigavatios de energía en un día promedio. Así que, estamos hablando del consumo de energía de múltiples ciudades de Nueva York," dijo. Predice que para 2026, el procesamiento global de IA demandará 40 gigavatios de energía, equivalente a ocho ciudades de Nueva York, específicamente para centros de datos de IA.
Lightmatter recientemente aseguró una inversión de capital de riesgo de $400 millones, valorando a la compañía en $4.4 mil millones. Graham mencionó que la compañía planea comenzar la producción "en los próximos años."
Cuando se le preguntó sobre posibles interrupciones en los planes de Lightmatter, Graham expresó confianza en la necesidad continua de expandir la infraestructura de cómputo de IA. Sin embargo, reconoció que un avance en los algoritmos de IA que requiera significativamente menos cómputo o que logre una inteligencia general artificial (AGI) más rápidamente podría desafiar las suposiciones actuales sobre la necesidad de un crecimiento exponencial del cómputo.
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad
So we're basically trading human brainpower for literal power plants? AI is cool but the energy cost is insane. 😅
Holy crap, that's a lot of juice! 😅 I knew AI training was power-hungry, but comparing it to multiple NYC's worth of electricity by 2026 really puts it in perspective. Are we just gonna ignore the environmental cost while chasing bigger models? Hope Nvidia's got some efficiency tricks up their sleeves...
So AI's energy consumption might outpace entire cities? 😳 That puts the 'cost' of innovation into a whole new perspective. Will there be a breakthrough in energy-efficient hardware soon, or are we just betting on renewable energy scaling fast enough?
Wow, Energieverbrauch wie mehrere New Yorks bis 2026? Das ist krass. Die AI-Boom ist ja mega spannend, aber wenn Data Center bald mehr Strom als Länder fressen... irgendwie gruselig. Macht man sich Gedanken über Klima und ob das wirklich nachhaltig ist. 🤔 Hoffentlich forscht man auch an effizienteren Lösungen, sonst knallt's.
AIの消費電力がニューヨーク市全体を超えるなんて…技術革新と環境負荷のバランスが気になりますね。電力を食い尽くす前に再生可能エネルギーへの移行が必要では?🌍 日本でもAIデータセンターの増設が進んでいますが、電力問題は他人事じゃないです。





Hogar






