Deepseek aumenta el gasto de IA, contrario a las creencias

La caída del mercado de valores en enero, estimulado por el zumbido alrededor del avance de la IA China, Deepseek AI y su método de computación rentable, podría llevar a uno a creer que las empresas están retirando sus inversiones en chips y sistemas de IA. Sin embargo, mi experiencia en la Conferencia Generativa de IA en Nueva York, organizada por Bloomberg Intelligence, pintó una imagen diferente. El entusiasmo por expandir el uso de IA generativa era palpable, lo que sugiere que el gasto en esta área está lejos de disminuir.

Además: ¿Qué es Deepseek Ai? ¿Es seguro? Aquí está todo lo que necesitas saber

La conferencia, titulada "AI generativa: las leyes de escala después de Deepseek", se llenó de discusiones que enfatizaban la demanda continua que impulsó la mayor inversión en IA.

"Teníamos diez paneles hoy, y ni una sola persona en esos paneles dijo que tenemos más capacidad de la que necesitamos", comentó Mandeep Singh, analista senior de tecnología de Bloomberg Intelligence y uno de los organizadores del evento.

"Y nadie estaba hablando de una burbuja" en la infraestructura, agregó Singh, destacando la confianza de la industria en el futuro de la IA.

La construcción de infraestructura de IA: ¿Dónde estamos?

Anurag Rana, el colega de Singh en Bloomberg Intelligence y un analista de servicios de TI y software senior, planteó una pregunta crítica: "La pregunta más importante en este momento frente a todos es la construcción de infraestructura de IA. Sí. ¿Dónde estamos en ese ciclo?"

"Nadie sabe" con certeza, admitió Rana. Sin embargo, la esperanza provocada por Deepseek AI es que se pueden lograr avances significativos con menos gastos.

"Deepseek sacudió a mucha gente", dijo. "Si no necesita que muchas GPU ejecuten modelos, entonces, ¿por qué necesitamos $ 500 mil millones para el proyecto Stargate?", Observó, haciendo referencia a un proyecto de IA de EE. UU. Con el grupo de AI planeado que involucra el grupo SoftBank de Japón, Openai y Oracle.

Rana señaló que la industria tiene la esperanza de que los costos de IA se desplomen, reflejando la rápida disminución de los costos de computación en la nube.

Además: ¿Es el nuevo modelo de imagen de Deepseek otra victoria para AI más barata?

"Esa caída en la curva de costos, que probablemente tardó seis, siete, ocho años en almacenar un terabyte de datos en Amazon AWS, cuando comenzó versus hoy, la economía era buena", dijo. "Y eso es lo que todos esperan, que en el lado de la inferencia" de la IA, "si la curva cae a ese nivel, Dios mío, la tasa de adopción en la IA en el lado del usuario final, o el lado empresarial, será espectacular".

Singh estuvo de acuerdo, señalando que la aparición de Deepseek AI ha "cambiado la mentalidad de todos sobre lograr la eficiencia".

A lo largo del día, numerosos paneles profundizaron en proyectos de IA empresariales, desde su inicio hasta el despliegue. Sin embargo, había un tema recurrente: la necesidad de reducir drásticamente los costos de la IA para ampliar su accesibilidad.

"No creo que Deepseek haya sido una sorpresa", dijo Shawn Edwards, el principal tecnólogo de Bloomberg, en una entrevista con David Dwyer, jefe de Bloomberg Intelligence. "Lo que me hizo pensar es que sería genial si pudieras agitar una varita y hacer que estos modelos funcionen increíblemente eficientemente", dijo, imaginando un futuro donde todos los modelos de IA pudieran operar con tanta eficiencia.

La proliferación de modelos de IA

Una razón por la cual muchos panelistas anticipan una mayor, en lugar de una disminución, la inversión en la infraestructura de IA es el creciente número de modelos de IA. Una conclusión clave del día fue que no habrá un solo modelo de IA para gobernarlos a todos.

"Usamos una familia de modelos", explicó Edwards. "No existe el mejor modelo".

Los panelistas estuvieron de acuerdo en que, si bien los modelos de lenguaje grande "de base" o "frontera" continuarán evolucionando, las empresas individuales pueden emplear cientos o incluso miles de modelos de IA.

También: El surgimiento de las PC de IA: cómo las empresas están reestructurando su tecnología para mantenerse al día

Estos modelos podrían ajustarse en los datos patentados de una empresa, un proceso de rehacer una red neuronal después de su "pretruamiento" inicial en datos genéricos.

"Los agentes en la empresa requieren opcionalidad entre los modelos", dijo Jed Dougherty, jefe de estrategia de plataforma para la firma de ciencia de datos respaldada por empresas Dataiku. "Necesitan la capacidad de controlar y crear, y tener auditabilidad" de los modelos de IA.

"Queremos poner las herramientas para construir estas cosas en manos de las personas", dijo. "No queremos que diez doctorados construyan todos los agentes".

En una línea similar, Adobe, líder en herramientas de diseño, está apostando a los modelos personalizados como un caso de uso clave para los creativos. "Podemos capacitar a las extensiones de modelos personalizados para su marca que pueden ser una ayuda para una nueva campaña publicitaria", dijo el jefe de nuevas empresas comerciales de Adobe, Hannah Elsakr, en una discusión con el presentador de TV Bloomberg Romaine Bostick.

Aumento de la demanda de procesamiento

Al igual que con los modelos de IA, la proliferación de agentes de IA dentro de las empresas está aumentando las demandas de procesamiento, sugirieron muchos oradores.

"No vendrá un proceso completo en un agente, lo dividirá en piezas", dijo Ray Smith, jefe de agentes y automatización de Copilot Studio de Microsoft.

Smith predijo que a través de una sola interfaz, como Copilot, "interactuaremos con cientos de agentes, son solo aplicaciones en el Nuevo Mundo" de la programación.

"Le daremos al agente el proceso de negocio, le diremos lo que queremos lograr", y el agente llevará a cabo tareas. "Las aplicaciones de agente son solo una nueva forma de flujo de trabajo", dijo.

También: Nvidia domina en los puntos de referencia de Gen AI, Clobbering 2 chips de AI rival

Tales escenarios cotidianos son "todo tecnológicamente posible", señaló Smith, "es solo el ritmo al que lo construimos".

El impulso para llevar a los "agentes" de IA a más personas dentro de las organizaciones es requerir aún más las reducciones de costos, dijo James McNiven, jefe de gestión de productos de los fabricantes de microprocesadores, el brazo de los brazos, en una conversación con Hyde de Bloomberg.

"¿Cómo proporcionamos acceso a más y más dispositivos", planteó. "Estamos viendo modelos a nivel de doctorado" de la capacidad de tareas, dijo.

McNiven sugirió que tales agentes deberían servir como asistentes para humanos, atrayendo un paralelo a cuando los sistemas de pago se introdujeron en los países en desarrollo a través de teléfonos móviles hace una década: "¿Cómo llevamos eso a las personas que pueden usar esa capacidad?"

La proliferación de modelos de base

Incluso los modelos de base genérica están proliferando a un ritmo sorprendente.

Amazon AWS tiene 1.800 modelos de IA diferentes disponibles, Dave Brown, el jefe de AWS Computing and Networking, dijo a la presentadora de Bloomberg TV Caroline Hyde. La compañía está "haciendo mucho para reducir el costo" de administrar los modelos, dijo, incluido el desarrollo de chips de IA personalizados, como Entrenium.

AWS está "utilizando más de nuestros propios procesadores que los procesadores de otras compañías", dijo Brown, aludiendo a Nvidia, AMD, Intel y otros proveedores de chips de propósito general.

Además: el nuevo generador de imágenes de Chatgpt rompió mis expectativas, y ahora es gratis intentarlo

"Los clientes harían más si el costo fuera más bajo", dijo Brown.

AWS trabaja diariamente con antrópico, fabricantes de la Familia del Modelo de Lenguaje Claude, señaló Brown. Las interfaces de programación de aplicaciones antrópicas Michael Gerstenhaber, en el mismo chat con Hyde, señaló que "los modelos de pensar causan que se use mucha capacidad", refiriéndose a la tendencia de los llamados modelos de razonamiento, como Deepseek R1 y GPT-O1, para generar declaraciones verbose sobre los argumentos de sus respuestas finales.

Anthrope está trabajando estrechamente con AWS sobre formas de recortar el presupuesto de cómputo, como el "almacenamiento rápido en caché", almacenando los cálculos de respuestas anteriores.

A pesar de esa tendencia, dijo, "Anthrope necesita cientos de miles de aceleradores," es decir, chips de silicio centrados en AI, "en muchos centros de datos" para ejecutar sus modelos.

Además, el costo de energía creciente de impulsar la IA no muestra signos de desaceleración, dijo Brown. Los centros de datos actuales están consumiendo cientos de megavatios, señaló, y eventualmente requerirán gigavatios. "El poder que consume," que significa IA "es grande, y la huella es grande en muchos centros de datos".

También: Global AI Computing utilizará la potencia de 'NYCS múltiple' para 2026, dice el fundador

Incertidumbre económica e inversión de IA

A pesar de los ambiciosos escenarios, un factor podría interrumpir todos los casos de uso y los planes de inversión: la economía.

A medida que la conferencia se acababa el miércoles por la noche, los panelistas e invitados estaban monitoreando la caída del mercado de valores. El presidente de los Estados Unidos, Donald Trump, acababa de anunciar un paquete global de tarifas que eran más grandes y más amplios de lo que la mayoría de Wall Street había anticipado.

Las áreas tradicionales de inversión tecnológica, como los servidores y el almacenamiento, y no la IA, podrían ser las víctimas iniciales de cualquier contracción económica, dijo Rana de Bloomberg.

"La otra gran cosa en la que estamos enfocados es el gasto tecnológico que no es AI", dijo con respecto a los aranceles. "Cuando miramos a personas como IBM, Accenture, Microsoft y todos los demás, cuando dejamos de lado a IA por un segundo, eso es algo que será una lucha en esta temporada de ganancias".

Los CFO de las principales empresas podrían priorizar los fondos de IA y cambios, incluso si tienen que recortar sus presupuestos en medio de la incertidumbre económica y la recesión potencial, sugirió Rana.

Sin embargo, esa perspectiva optimista no está garantizada.

"Lo que más me interesa descubrir es, si todas estas grandes empresas van a mantener intactos sus objetivos CAP-EX [gastos de capital]", dijo Rana, incluidos los centros de datos de IA, "o van a decir, ¿sabes qué? Es demasiado incierto".