Su negocio dependerá de cientos de modelos de IA. He aquí por qué

En el panorama tecnológico actual, así como las empresas a menudo manejan múltiples servicios en la nube y bases de datos para diferentes necesidades, hay una tendencia creciente hacia el uso de múltiples modelos de IA para diversos propósitos. Una encuesta reciente que involucró a más de 1,000 tomadores de decisiones de TI revela que los adoptantes más avanzados de IA están gestionando actualmente cientos de modelos al mismo tiempo.

Hemos entrado en lo que se denomina la era del "IA multimodelo". Según la encuesta de S&P Global Market Intelligence, patrocinada por Vultr, el número promedio de modelos de IA en uso es de 158, con expectativas de que este número aumente a 176 en el próximo año.

La encuesta también encontró que los usuarios más avanzados de IA están operando actualmente con un promedio de 175 modelos, con proyecciones de incrementar este número en un 14% a 200 modelos durante el próximo año. Aquellos en el segundo nivel más alto de madurez en IA anticipan un crecimiento interanual del 18% en el número de modelos. Además, dos tercios de los gerentes encuestados (66%) están desarrollando sus propios modelos o utilizando opciones de código abierto.

Hay razones sólidas para usar múltiples modelos en diferentes aplicaciones. Por ejemplo, un estudio del MIT destaca un sistema que emplea tres modelos entrenados en datos de lenguaje, visión y acción para ayudar a los robots a planificar y ejecutar tareas en entornos domésticos, de construcción y de manufactura. "Cada modelo fundacional captura un aspecto diferente del proceso de toma de decisiones y colabora cuando llega el momento de tomar decisiones", explicaron los investigadores del MIT.

Esta tendencia está llevando a lo que se conoce como un enfoque de "ensamble" para la IA, donde múltiples modelos trabajan juntos para producir resultados, como describió Erica Dingman en una publicación de MovableInk. "La diferencia entre usar un solo modelo y un modelo de ensamble es como comparar un violín solista con una orquesta completa", señaló. "Aunque cada instrumento tiene su valor, juntos crean algo verdaderamente mágico." Además, el uso de conjuntos de datos diversos y la actualización y entrenamiento continuo de un ensamble de modelos puede ayudar a mitigar o eliminar sesgos en los resultados de la IA.

La adopción generalizada y la diversidad de sistemas que soportan modelos de IA están impulsando esta proliferación. La IA se está implementando cada vez más en el borde, según la encuesta de S&P y Vultr. "Las arquitecturas de IA distribuidas, con el borde jugando un papel crucial en aplicaciones que abarcan la infraestructura de una organización, probablemente se conviertan en el estándar", afirmaron los autores de la encuesta. Una mayoría significativa (85%) de los tomadores de decisiones de TI cree que este cambio es probable o extremadamente probable en sus entornos, con un 32% considerándolo "extremadamente probable".

La encuesta identificó a las organizaciones líderes en la adopción de IA, etiquetándolas como aquellas con "prácticas de IA transformacionales". La mitad de estos líderes están funcionando "significativamente mejor" que sus pares de la industria a nivel operativo. Casi todos estos líderes reportaron mejoras en su desempeño interanual de 2022 a 2023 en varias métricas, incluyendo la satisfacción del cliente (90%), los ingresos (91%), la reducción de costos/expansión de márgenes (88%), la gestión de riesgos (87%), el marketing (89%) y la cuota de mercado (89%).

En todas las organizaciones encuestadas, se espera que el gasto en IA supere el gasto general en TI. Casi nueve de cada diez empresas (88%) planean aumentar el gasto en IA en 2025, con un 49% anticipando aumentos moderados a significativos.

Sin embargo, el rápido crecimiento en el uso de IA trae desafíos, particularmente en relación con las infraestructuras de TI existentes. "Cuando se trata de actividades de IA de alta demanda como la inferencia en tiempo real, los encuestados están preocupados de que su infraestructura actual pueda no ser suficiente", señalaron los autores de la encuesta. Las tres principales preocupaciones incluyen recursos insuficientes de CPU o GPU (65%), problemas de localidad de datos (53%) y problemas de rendimiento de almacenamiento (50%).

Los datos cualitativos de la encuesta reflejaron estas preocupaciones, con los entrevistados mencionando retrasos en la programación para instancias de GPU de mayor capacidad en nubes públicas y posibles impactos en la disponibilidad de datos. Además, hay una creciente preocupación por el costo de la infraestructura. "El costo a menudo se convierte en una preocupación más apremiante una vez que los proyectos están en producción. Históricamente, las organizaciones han luchado por pronosticar estos costos con precisión", concluyeron los autores.