Una startup de chips recauda 135 millones de dólares apostando por que la memoria, y no la potencia de cálculo, es el mayor cuello de botella de la IA

Cada vez que le haces una pregunta a ChatGPT, tu solicitud pone en marcha una carrera de relevos de datos. La información sale de la memoria, pasa por la CPU para su preprocesamiento, se dirige a la GPU para realizar cálculos intensivos y, a continuación, regresa; y todo ese ciclo se repite para cada una de las palabras que genera la IA.

Este cuello de botella es estructural: obliga a que cada solicitud pase por algunos de los chips más caros y que más energía consumen del sector. Esa ineficiencia es precisamente lo que XCENA, una startup con oficinas en Corea del Sur y EE. UU., está tratando de resolver. Esta empresa, fundada hace cuatro años, ha creado un chip que acerca mucho más la potencia de procesamiento a la DRAM —los chips de memoria rápida y temporal que almacenan los datos que el procesador está utilizando activamente—, lo que permite que las tareas rutinarias con datos se gestionen justo al lado de la memoria, sin los costosos viajes de ida y vuelta entre CPU, GPU y memoria.

Si la tecnología funciona a gran escala, el impacto en los costes de la infraestructura de IA podría ser considerable, lo que explica el gran interés de los inversores. XCENA acaba de recaudar 135 millones de dólares en una ronda de financiación de serie B con una valoración de 570 millones de dólares, lo que eleva su financiación total a 185 millones de dólares.

El director ejecutivo de XCENA, Jin Kim, cofundó la empresa en 2022 junto con el director técnico, Dohun Kim, y el director de producto, Harry Juhyun Kim. Los tres son veteranos de Samsung y SK Hynix, los gigantes de la memoria que suministran los chips que alimentan las GPU de Nvidia. «Tanto las CPU como las GPU se han vuelto más inteligentes a lo largo de las décadas. La memoria, en cambio, nunca lo ha hecho. XCENA quiere cambiar eso», afirmó Kim en una entrevista con TechCrunch. «La reciente subida de los precios de la memoria y de las acciones relacionadas apunta a un cambio más amplio en la infraestructura de la IA hacia arquitecturas centradas en la memoria», añadió. (Este mes, Samsung, SK Hynix y Micron —las tres empresas que dominan el mercado mundial de chips de memoria— superaron por primera vez, cada una de ellas, una valoración de un billón de dólares).

Kim afirma que XCENA basa su negocio en la idea de que «la inferencia ya no es solo un problema de computación; cada vez es más un problema de escalabilidad de la memoria».

El chip de XCENA, el MX1, se conecta a la CPU a través de CXL (Compute Express Link) —básicamente, un carril rápido dedicado entre el procesador y la memoria— y procesa los datos antes incluso de que tengan que salir del módulo de memoria. Lleva el cálculo a los datos, y no al revés. La empresa afirma que lo que antes requería 10 servidores podría ejecutarse potencialmente en uno solo.

«Aunque las GPU destacan en la multiplicación de matrices —los complejos cálculos matemáticos que hay detrás del entrenamiento de los modelos de IA—, gran parte del trabajo relacionado con los datos, incluido el preprocesamiento, la gestión de la caché KV (el sistema que almacena el contexto de conversaciones anteriores para que el modelo no tenga que volver a procesarlo) y el almacenamiento de datos en caché, sigue ejecutándose en las CPU. Nuestro chip gestiona esas tareas directamente dentro del propio módulo de memoria», explicó Kim.

La demanda de soluciones de memoria se ha disparado desde la segunda mitad del año pasado, y la empresa cree que el momento le es favorable.

Las conversaciones con varios proveedores mundiales de memoria se encuentran aún en una fase inicial, aunque Kim se ha negado a revelar sus nombres. Los clientes ideales de la empresa son los hiperescaladores que gastan decenas de miles de millones de dólares al año en infraestructura de IA, donde incluso una pequeña mejora en la eficiencia de la memoria puede traducirse en un ahorro de cientos de millones.

El MX1 sigue siendo un prototipo. Está previsto que los chips de producción en masa salgan de las líneas de fabricación de Samsung a finales de 2026, y la empresa espera empezar a generar ingresos en 2027.

Mientras que los fabricantes de unidades de procesamiento neuronal (NPU) compiten por plantar cara a Nvidia en las cargas de trabajo de entrenamiento, XCENA se centra en la capa de uso intensivo de memoria que sustenta todo lo demás.

Entre los competidores más cercanos de XCENA se encuentran Astera Labs y Marvell, ambas empresas que cotizan en el Nasdaq y que trabajan en la conectividad de memoria de próxima generación. Kim afirma que Marvell es un actor importante y consolidado que ya opera en el mismo ámbito, pero que la diferencia clave radica en la propiedad intelectual. «Contamos con miles de núcleos», afirmó Kim. Según las especificaciones públicas, el enfoque de Marvell se basa, en comparación, en un puñado de núcleos de uso general.

Estos núcleos se basan en RISC-V —un modelo de diseño de chips de código abierto— y están optimizados específicamente para el procesamiento de datos, con cada núcleo deliberadamente diseñado para ser pequeño y eficiente. Más allá de los propios núcleos, XCENA diseña su propia jerarquía de memoria interna, su bus de interconexión y su controlador de DRAM —un nivel de integración vertical que la mayoría de las empresas de chips, incluidos los rivales más grandes, suelen externalizar—.

Las empresas de capital riesgo con sede en Seúl Altinum e IMM Investment codirigieron la ronda de financiación de la Serie B, junto con Corstone Asia y los inversores existentes SBI Investment y Mirae Asset Capital. La empresa, que cuenta con más de 90 empleados repartidos entre sus oficinas de Pangyo —un centro tecnológico a las afueras de Seúl— y Sunnyvale, también está en conversaciones con inversores internacionales para obtener financiación adicional.