Red Hat on Open, modelos de lenguaje pequeño para la IA responsable y práctica

Influencias geopolíticas en el desarrollo y uso de la IA

A medida que los eventos globales continúan moldeando nuestro mundo, es inevitable que impacten en el sector tecnológico, particularmente en el mercado de la IA. Esta influencia se extiende a cómo se desarrolla la IA, sus metodologías y su aplicación en las empresas. El panorama actual de la IA es una mezcla de entusiasmo y escepticismo, con algunos abrazando su potencial mientras otros permanecen cautelosos debido a sus primeras etapas de desarrollo.

Los modelos de lenguaje grandes (LLMs) tradicionales de ciclo cerrado, como los de proveedores conocidos, enfrentan competencia de modelos más nuevos y abiertos como Llama, DeepSeek y Ernie X1 de Baidu. En contraste, el desarrollo de código abierto ofrece transparencia y la oportunidad de contribución comunitaria, alineándose con el concepto de "IA responsable". Este enfoque considera los impactos ambientales, la ética de uso, las fuentes de datos de aprendizaje y los problemas relacionados con la soberanía de datos, el idioma y la política.

Red Hat, una empresa conocida por su exitoso modelo de negocio de código abierto, está interesada en aplicar su enfoque colaborativo y transparente a la IA. En una reciente conversación con Julio Guijarro, CTO de Red Hat para EMEA, discutimos su estrategia para aprovechar el poder de la IA generativa de manera responsable y sostenible para añadir valor a las empresas.

La necesidad de educación y transparencia

Julio enfatizó la necesidad de más educación sobre la IA, señalando que su naturaleza compleja a menudo la convierte en una "caja negra" para muchos. "El funcionamiento interno de la IA, profundamente arraigado en ciencia y matemáticas complejas, sigue siendo en gran parte desconocido", dijo. "Esta falta de transparencia se agrava cuando la IA se desarrolla en entornos cerrados."

Otros desafíos incluyen la subrepresentación de ciertos idiomas, preocupaciones por la soberanía de datos y problemas de confianza. Julio señaló, "Los datos son el activo más valioso de una organización, y las empresas deben ser conscientes de los riesgos de exponer datos sensibles a plataformas públicas con políticas de privacidad variables."

El enfoque de Red Hat hacia la IA

La respuesta de Red Hat a la demanda global de IA se centra en ofrecer beneficios a los usuarios finales mientras aborda las dudas y limitaciones asociadas con los servicios tradicionales de IA. Julio destacó el potencial de los modelos de lenguaje pequeños (SLMs) como solución. Estos modelos pueden ejecutarse localmente o en nubes híbridas utilizando hardware no especializado y pueden acceder a datos empresariales locales. Los SLMs son eficientes y específicos para tareas, requiriendo menos recursos que los LLMs.

Una de las principales ventajas de los SLMs es su capacidad para mantenerse actualizados con datos empresariales que cambian rápidamente. "Los modelos de lenguaje grandes pueden volverse obsoletos rápidamente porque la generación de datos ocurre fuera de las grandes nubes, justo al lado de tus procesos de negocio", explicó Julio.

El costo es otro factor crítico. "Las consultas de servicio al cliente usando un LLM pueden generar costos ocultos significativos", dijo Julio. "Antes de la IA, las consultas de datos tenían un alcance y costo predecibles. Con los LLMs, cada interacción puede aumentar los costos porque operan en un modelo iterativo. Ejecutar modelos en las instalaciones permite un mayor control sobre los costos, ya que están ligados a tu infraestructura, no a tarifas por consulta."

Afortunadamente, las organizaciones no necesitan invertir fuertemente en hardware especializado como GPUs. Red Hat está trabajando en optimizar modelos para que se ejecuten en hardware estándar, enfocándose en los modelos específicos que las empresas necesitan en lugar de procesar grandes conjuntos de datos de propósito general con cada consulta.

La importancia de modelos más pequeños y localizados

Al usar y referenciar datos locales, los resultados pueden adaptarse a necesidades específicas. Julio mencionó proyectos en regiones como los mundos de habla árabe y portuguesa, que no están bien atendidos por los LLMs centrados en inglés.

Existen desafíos prácticos con los LLMs, incluidos problemas de latencia que pueden afectar aplicaciones sensibles al tiempo o orientadas al cliente. Mantener los recursos y resultados cerca del usuario puede mitigar estos problemas.

La confianza es otro aspecto crucial de la IA responsable. Red Hat aboga por plataformas, herramientas y modelos abiertos para aumentar la transparencia y permitir una mayor participación de la comunidad. "Es crítico para todos", afirmó Julio. "Estamos construyendo capacidades para democratizar la IA, no solo publicando modelos, sino proporcionando herramientas para que los usuarios los repliquen, ajusten y sirvan."

La reciente adquisición de Neural Magic por parte de Red Hat busca ayudar a las empresas a escalar la IA más fácilmente, mejorar el rendimiento de inferencia y ofrecer más opciones en la construcción y despliegue de cargas de trabajo de IA a través del proyecto vLLM. Además, en colaboración con IBM Research, Red Hat lanzó InstructLab, abriendo el desarrollo de IA a no científicos de datos que poseen valioso conocimiento empresarial.

El futuro de la IA

Aunque hay mucha especulación sobre la burbuja de la IA, Red Hat cree en un futuro donde la IA esté adaptada a casos de uso específicos y permanezca de código abierto. Este enfoque será económicamente viable y accesible para todos. Como dijo Matt Hicks, CEO de Red Hat, "El futuro de la IA es abierto."