Chapeau rouge sur des modèles de petits langues ouverts pour une AI responsable et pratique

Influences géopolitiques sur le développement et l'utilisation de l'IA

Alors que les événements mondiaux continuent de façonner notre monde, il est inévitable qu'ils aient un impact sur le secteur de la technologie, en particulier le marché de l'IA. Cette influence s'étend à la façon dont l'IA est développée, ses méthodologies et son application au sein des entreprises. Le paysage actuel de l'IA est un mélange d'excitation et de scepticisme, certains embrassant son potentiel tandis que d'autres restent prudents en raison de ses premiers stades de développement.

Les modèles traditionnels en boucle fermée (LLM) comme ceux des fournisseurs bien connus sont confrontés à la concurrence de modèles plus récents et plus ouverts tels que Llama, Deepseek et Ernie X1 de Baidu. En revanche, le développement open source offre la transparence et la possibilité de contribution communautaire, s'alignant sur le concept de «l'IA responsable». Cette approche examine les impacts environnementaux, l'éthique d'utilisation, les sources de données d'apprentissage et les problèmes liés à la souveraineté des données, à la langue et à la politique.

Red Hat, une entreprise connue pour son modèle commercial open source réussi, tient à appliquer son approche collaborative et transparente de l'IA. Dans une récente conversation avec Julio Guijarro, le CTO de Red Hat pour EMEA, nous avons discuté de leur stratégie pour exploiter le pouvoir de l'IA génératif d'une manière qui ajoute de la valeur aux entreprises de manière responsable et durable.

Le besoin d'éducation et de transparence

Julio a souligné la nécessité de plus d'éducation autour de l'IA, soulignant que sa nature complexe en fait souvent une "boîte noire" pour beaucoup. "Le fonctionnement intérieur de l'IA, profondément enraciné dans des sciences et des mathématiques complexes, restent largement inconnus", a-t-il déclaré. "Ce manque de transparence est exacerbé lorsque l'IA est développé dans des environnements fermés."

Les autres défis incluent la sous-représentation de certaines langues, les problèmes de souveraineté des données et les problèmes de confiance. Julio a noté: "Les données sont des atout le plus précieux d'une organisation et les entreprises doivent être conscientes des risques d'exposer des données sensibles aux plateformes publiques avec des politiques de confidentialité variables."

L'approche de Red Hat à l'IA

La réponse de Red Hat à la demande mondiale d'IA se concentre sur la fourniture d'avantages aux utilisateurs finaux tout en abordant les doutes et les limites associés aux services d'IA traditionnels. Julio a souligné le potentiel des modèles de petits langues (SLMS) comme solution. Ces modèles peuvent s'exécuter localement ou sur des nuages ​​hybrides à l'aide de matériel non spécialiste et peuvent accéder aux données commerciales locales. Les SLM sont efficaces et spécifiques à la tâche, nécessitant moins de ressources que les LLM.

L'un des principaux avantages des SLM est leur capacité à rester à jour avec des données commerciales en évolution rapide. "Les modèles de grandes langues peuvent devenir obsolètes rapidement parce que la génération de données se produit en dehors des grands nuages, juste à côté de vos processus métier", a expliqué Julio.

Le coût est un autre facteur critique. "Les requêtes de service client utilisant un LLM peuvent entraîner des coûts cachés importants", a déclaré Julio. "Avant l'IA, les requêtes de données avaient une portée et un coût prévisibles. Avec les LLM, chaque interaction peut dégénérer les coûts car ils opèrent sur un modèle itératif. Les modèles d'exécution sur site permettent un plus grand contrôle sur les coûts, car ils sont liés à votre infrastructure, et non par des frais."

F Heureusement, les organisations n'ont pas besoin d'investir massivement dans du matériel spécialisé comme les GPU. Red Hat travaille sur l'optimisation des modèles pour fonctionner sur du matériel standard, en se concentrant sur les modèles spécifiques dont les entreprises ont besoin plutôt qu'à traiter de grands ensembles de données à usage général à chaque requête.

L'importance des modèles plus petits et localisés

En utilisant et en référençant des données locales, les résultats peuvent être adaptés à des besoins spécifiques. Julio a fait référence à des projets dans des régions comme les mondes arabo et portugais, qui ne sont pas bien servis par les LLM centrées sur l'anglais.

Il y a des défis pratiques avec les LLM, y compris les problèmes de latence qui peuvent affecter les applications sensibles au temps ou orientées client. Garder les ressources et les résultats proches de l'utilisateur peut atténuer ces problèmes.

La confiance est un autre aspect crucial de l'IA responsable. Red Hat plaide pour les plates-formes ouvertes, les outils et les modèles pour accroître la transparence et permettre une implication plus large de la communauté. "C'est essentiel pour tout le monde", a déclaré Julio. "Nous créons des capacités pour démocratiser l'IA, non seulement en publiant des modèles, mais en fournissant aux utilisateurs des outils pour les reproduire, les régler et les servir."

La récente acquisition de Red Hat de Neural Magic vise à aider les entreprises à évoluer plus facilement sur l'IA, à améliorer les performances d'inférence et à offrir plus de choix dans la construction et le déploiement des charges de travail d'IA via le projet VLLM. De plus, en collaboration avec IBM Research, Red Hat a publié InstructLab, ouvrant le développement de l'IA à des scientifiques non de données qui possèdent des connaissances commerciales précieuses.

L'avenir de l'IA

Bien qu'il y ait beaucoup de spéculations sur la bulle d'IA, Red Hat croit en un avenir où l'IA est adaptée à des cas d'utilisation spécifiques et reste open-source. Cette approche sera économiquement viable et accessible à tous. Comme l'a déclaré Matt Hicks, PDG de Red Hat, «L'avenir de l'IA est ouvert».