AI Computing para consumir la potencia de múltiples NYC para 2026, dice el fundador

NVIDIA y socios amplían los centros de datos de IA en todo el mundo

Nvidia, junto con sus socios y clientes, ha estado expandiendo activamente el tamaño de las instalaciones informáticas en todo el mundo para satisfacer las altas demandas computacionales de capacitación de modelos de inteligencia artificial (IA) masiva como GPT-4. Esta expansión se volverá aún más crucial a medida que los modelos de IA adicionales se implementan en producción, según Thomas Graham, cofundador de la Lightmatter de inicio de la computación óptica. En una entrevista reciente en Nueva York con Mandeep Singh, analista senior de tecnología de Bloomberg Intelligence, Graham destacó la creciente necesidad de recursos computacionales.

"La demanda de más cómputo no es solo de escalar leyes; también se trata de desplegar estos modelos de IA ahora", explicó Graham. Singh preguntó sobre el futuro de los modelos de idiomas grandes (LLM) como GPT-4 y si continuarían creciendo en tamaño. En respuesta, Graham cambió el enfoque a la aplicación práctica de la IA, enfatizando la importancia de la inferencia o la fase de implementación, que requiere una potencia computacional sustancial.

"Si considera la capacitación como I + D, la inferencia es esencialmente una implementación. A medida que implementa, necesitará computadoras a gran escala para ejecutar sus modelos", dijo Graham durante la "Gen AI: ¿Puede cumplir la promesa de productividad?" Conferencia organizada por Bloomberg Intelligence.

La perspectiva de Graham se alinea con la del CEO de NVIDIA, Jensen Huang, quien ha enfatizado a Wall Street que avanzar en las formas de IA "agente" necesitará no solo una capacitación más sofisticada, sino también capacidades de inferencia significativamente mejoradas, lo que dará como resultado un aumento exponencial en los requisitos de cómputo.

El papel de Lightmatter en la infraestructura de IA

Fundada en 2018, LightMatter está a la vanguardia del desarrollo de la tecnología de chips que utiliza conexiones ópticas para vincular múltiples procesadores en un solo dado de semiconductores. Estas interconexiones ópticas pueden transferir datos de manera más eficiente que los cables de cobre tradicionales, utilizando menos energía. Esta tecnología puede optimizar las conexiones dentro y entre los bastidores de centros de datos, mejorando la eficiencia general y la economía del centro de datos, según Graham.

"Al reemplazar las trazas de cobre en los centros de datos, tanto en la placa de circuito impreso del servidor como en el cableado entre bastidores, con fibra óptica, podemos aumentar drásticamente el ancho de banda", dijo Graham a Singh. LightMatter actualmente está colaborando con varias compañías tecnológicas en el diseño de nuevos centros de datos, y Graham señaló que estas instalaciones se están construyendo desde cero. La compañía ya ha establecido una asociación con Global Foundries, un fabricante de semiconductores contratados con operaciones en el estado de Nueva York, que atiende a clientes como dispositivos Micro Advanced.

Si bien Graham no reveló socios y clientes específicos más allá de esta colaboración, insinuó que LightMatter funciona con proveedores de silicio como Broadcom o Marvell para crear componentes personalizados para gigantes tecnológicos como Google, Amazon y Microsoft, que diseñan sus propios procesadores de centros de datos.

La escala y el futuro de los centros de datos de IA

Para ilustrar la magnitud del despliegue de IA, Graham señaló que al menos una docena de nuevos centros de datos de IA están planificados o en construcción, cada uno que requiere un gigavatio de poder. "Para el contexto, la ciudad de Nueva York usa alrededor de cinco gigavatios de energía en un día promedio. Entonces, estamos hablando del consumo de energía de múltiples ciudades de Nueva York", dijo. Él predice que para 2026, el procesamiento global de IA exigirá 40 gigavatios de poder, equivalente a ocho ciudades de Nueva York, específicamente para los centros de datos de IA.

LightMatter recientemente obtuvo una inversión de capital de riesgo de $ 400 millones, valorando a la compañía en $ 4.4 mil millones. Graham mencionó que la compañía tiene como objetivo comenzar la producción "en los próximos años".

Cuando se le preguntó sobre posibles interrupciones en los planes de LightMatter, Graham expresó su confianza en la necesidad continua de expandir la infraestructura informática de IA. Sin embargo, reconoció que un gran avance en los algoritmos de IA que requieren significativamente menos calcular o lograr la inteligencia general artificial (AGI) más rápidamente podría desafiar los supuestos actuales sobre la necesidad de un crecimiento exponencial de cálculo.