Deepseek Shakes AI Industria: el próximo salto de IA puede depender del aumento de la inferencia, no más datos

La industria de la IA está en un estado de cambio constante, con 2025 trayendo algunos desarrollos revolucionarios que están sacudiendo las cosas. Un cambio importante ocurrió cuando el laboratorio chino de IA, DeepSeek, lanzó una bomba con un nuevo modelo que causó una caída del 17% en las acciones de Nvidia y afectó a otras acciones de centros de datos de IA. ¿El revuelo alrededor del modelo de DeepSeek? Está ofreciendo un rendimiento de primera categoría a una fracción de lo que cuesta a otros competidores estadounidenses, generando una tormenta sobre lo que esto significa para el futuro de los centros de datos de IA.

Pero para entender realmente lo que está haciendo DeepSeek, necesitamos tomar distancia y mirar el panorama general. El mundo de la IA está lidiando con una escasez de datos de entrenamiento. Los grandes actores ya han consumido la mayor parte de los datos públicos de internet, lo que significa que estamos chocando contra un muro en las mejoras de preentrenamiento. Como resultado, la industria está cambiando de marcha hacia el "cómputo en tiempo de prueba" (TTC). Piensa en ello como modelos de IA que toman un momento para "pensar" antes de responder, como con la serie "o" de OpenAI. Hay esperanza de que el TTC pueda ofrecer el mismo tipo de mejoras de escalado que alguna vez proporcionó el preentrenamiento, potencialmente marcando la próxima gran ola de avances en IA.

Estos cambios están señalando dos grandes transformaciones: primero, los laboratorios con presupuestos más pequeños ahora están en el juego, lanzando modelos de vanguardia. Segundo, el TTC se está convirtiendo en la nueva frontera para impulsar la IA hacia adelante. Vamos a desglosar estas tendencias y lo que podrían significar para el panorama y el mercado de la IA.

Implicaciones para la Industria de la IA

Creemos que el cambio hacia el TTC y el aumento en la competencia entre modelos de razonamiento podrían remodelar el panorama de la IA en varios frentes: hardware, plataformas en la nube, modelos fundacionales y software empresarial.

1. Hardware (GPUs, Chips Dedicados e Infraestructura de Cómputo)

El cambio hacia el TTC podría alterar lo que las empresas de IA necesitan en términos de hardware y cómo lo gestionan. En lugar de invertir grandes sumas en clústeres de GPUs cada vez más grandes para el entrenamiento, podrían comenzar a enfocarse más en fortalecer sus capacidades de inferencia para manejar las demandas de TTC. Aunque las GPUs seguirán siendo cruciales para la inferencia, la diferencia entre las cargas de trabajo de entrenamiento e inferencia podría afectar cómo se configuran y utilizan estos chips. Dado que las cargas de trabajo de inferencia son más impredecibles y "picosas", planificar la capacidad podría volverse más complicado.

También pensamos que este cambio podría impulsar el mercado de hardware diseñado específicamente para inferencia de baja latencia, como los ASICs. A medida que el TTC se vuelva más crucial que la capacidad de entrenamiento, el reinado de las GPUs de propósito general podría comenzar a decaer, abriendo puertas para fabricantes de chips de inferencia especializados.

2. Plataformas en la Nube: Hiperescaladores (AWS, Azure, GCP) y Cómputo en la Nube

Un gran obstáculo para la adopción de IA en las empresas, además de los problemas de precisión, es la falta de fiabilidad de las APIs de inferencia. Cosas como tiempos de respuesta inconsistentes, límites de tasa y problemas con solicitudes concurrentes pueden ser un verdadero dolor de cabeza. El TTC podría agravar estos problemas. En este escenario, un proveedor en la nube que pueda garantizar una alta calidad de servicio (QoS) para abordar estos problemas podría tener una gran ventaja.

Curiosamente, aunque los nuevos métodos podrían hacer que la IA sea más eficiente, no necesariamente reducirán la demanda de hardware. Siguiendo la Paradoja de Jevons, donde una mayor eficiencia lleva a un mayor consumo, modelos de inferencia más eficientes podrían impulsar a más desarrolladores a usar modelos de razonamiento, aumentando la necesidad de poder de cómputo. Creemos que las recientes mejoras en los modelos podrían generar más demanda de cómputo de IA en la nube, tanto para inferencia como para el entrenamiento de modelos más pequeños y especializados.

3. Proveedores de Modelos Fundacionales (OpenAI, Anthropic, Cohere, DeepSeek, Mistral)

Si nuevos participantes como DeepSeek pueden competir de igual a igual con los grandes a una fracción del costo, el dominio de los modelos preentrenados propietarios podría comenzar a desmoronarse. También podemos esperar más innovaciones en TTC para modelos transformadores, y como DeepSeek ha demostrado, estas innovaciones pueden provenir de lugares inesperados fuera de los sospechosos habituales en IA.

4. Adopción de IA Empresarial y SaaS (Capa de Aplicación)

Dado que DeepSeek tiene sus raíces en China, es probable que sus productos enfrenten un escrutinio continuo desde el punto de vista de la seguridad y la privacidad. Sus servicios de API y chatbots basados en China probablemente no tengan éxito entre los clientes de IA empresarial en los EE. UU., Canadá u otros países occidentales. Muchas empresas ya están bloqueando el sitio web y las aplicaciones de DeepSeek. Incluso cuando se alojan en centros de datos occidentales por terceros, los modelos de DeepSeek podrían enfrentar escrutinio, lo que podría limitar su adopción en las empresas. Los investigadores están señalando problemas como el jailbreaking, sesgos y la generación de contenido dañino. Aunque algunas empresas podrían experimentar con los modelos de DeepSeek, la adopción generalizada parece improbable debido a estas preocupaciones.

Por otro lado, la especialización vertical está ganando terreno. En el pasado, las aplicaciones verticales construidas sobre modelos fundacionales se centraban en crear flujos de trabajo personalizados. Técnicas como la generación aumentada por recuperación (RAG), el enrutamiento de modelos, la llamada a funciones y las barreras de seguridad han sido clave para ajustar modelos generalizados a casos de uso específicos. Pero siempre ha existido la preocupación de que mejoras importantes en los modelos subyacentes puedan dejar obsoletas estas aplicaciones. Sam Altman una vez advirtió que un gran salto en las capacidades de los modelos podría "aplastar" estas innovaciones.

Sin embargo, si estamos viendo un estancamiento en las ganancias de cómputo en tiempo de entrenamiento, la amenaza de ser superados rápidamente disminuye. En un mundo donde las mejoras en el rendimiento de los modelos provienen de optimizaciones de TTC, podrían surgir nuevas oportunidades para los actores de la capa de aplicación. Innovaciones como la optimización de prompts estructurados, estrategias de razonamiento conscientes de la latencia y técnicas de muestreo eficientes podrían ofrecer grandes mejoras de rendimiento en verticales específicos.

Estas mejoras son particularmente relevantes para modelos enfocados en el razonamiento como GPT-4o de OpenAI y DeepSeek-R1, que pueden tardar varios segundos en responder. En aplicaciones en tiempo real, reducir la latencia y mejorar la calidad de la inferencia dentro de un dominio específico podría brindar una ventaja competitiva. Como resultado, las empresas con un profundo conocimiento del dominio podrían desempeñar un papel crucial en la optimización de la eficiencia de la inferencia y en la afinación de los resultados.

El trabajo de DeepSeek muestra que estamos alejándonos de depender únicamente de más preentrenamiento para mejorar la calidad del modelo. En cambio, el TTC está volviéndose cada vez más importante. Aunque no está claro si los modelos de DeepSeek serán ampliamente adoptados en el software empresarial debido al escrutinio, su influencia en la mejora de otros modelos es cada vez más evidente.

Creemos que las innovaciones de DeepSeek están empujando a los laboratorios de IA establecidos a adoptar técnicas similares, complementando sus ventajas de hardware existentes. La caída prevista en los costos de los modelos parece estar impulsando un mayor uso de modelos, siguiendo el patrón de la Paradoja de Jevons.

Pashootan Vaezipoor es líder técnico en Georgian.