Un visage qui s'embrasse : comment les entreprises peuvent-elles réduire les coûts de l'IA tout en maintenant les performances ?

De nombreuses entreprises partent du principe que le développement de l'IA exige une puissance de calcul massive, ce qui les conduit à donner la priorité à l'acquisition de ressources supplémentaires.

Cependant, Sasha Luccioni, responsable de l'IA et du climat chez Hugging Face, propose une voie différente. Et si l'accent était mis sur une utilisation plus intelligente de l'IA ? Au lieu de rechercher sans relâche une capacité de calcul supplémentaire (et souvent excessive), les entreprises pourraient améliorer la performance et la précision de leurs modèles.

Selon M. Luccioni, le cœur du problème réside dans l'approche : les entreprises devraient viser un calcul plus intelligent, et pas seulement une plus grande quantité.

"Nous négligeons des méthodes plus intelligentes parce que nous sommes obnubilés par le besoin de plus de FLOPS, de plus de GPU et de plus de temps", explique-t-elle.

Voici cinq stratégies clés de Hugging Face pour aider les entreprises de toutes tailles à déployer l'IA plus efficacement.

1 : Sélectionner le bon modèle pour la tâche

Résistez à l'envie d'utiliser par défaut des modèles massifs et polyvalents pour chaque application. Les modèles spécialisés ou distillés peuvent souvent atteindre une précision équivalente, voire supérieure, pour des tâches spécifiques, à un coût nettement inférieur et avec une consommation d'énergie réduite.

Les recherches de M. Luccioni indiquent qu'un modèle spécifique à une tâche peut consommer 20 à 30 fois moins d'énergie qu'un modèle à usage général. "Ces modèles sont construits dans un but unique, contrairement aux grands modèles de langage conçus pour traiter n'importe quelle requête", précise-t-elle.

La distillation des modèles est ici cruciale. Un modèle à grande échelle peut être initialement formé et ensuite affiné pour une fonction particulière. Par exemple, Mme Luccioni a souligné que DeepSeek R1 est tellement volumineux que la plupart des organisations ne peuvent pas se permettre de l'exécuter, car il nécessite souvent au moins 8 GPU. En revanche, les versions distillées peuvent être 10 à 30 fois plus petites et fonctionner sur un seul GPU.

Elle a également souligné les avantages en termes d'efficacité des modèles à source ouverte, qui éliminent la nécessité d'une formation à partir de zéro. Contrairement à ce qui se passait il y a quelques années, lorsque les entreprises gaspillaient des ressources à la recherche de modèles appropriés, elles peuvent désormais commencer par un modèle de base et l'adapter à leurs besoins.

"Cela favorise l'innovation collaborative et progressive au lieu d'efforts isolés où chacun forme son propre modèle, ce qui entraîne un gaspillage des ressources informatiques", a déclaré M. Luccioni.

On se rend de plus en plus compte que les coûts de l'IA générative dépassent souvent ses avantages, ce qui entraîne une certaine désillusion dans les entreprises. Si les utilisations génériques telles que la composition de courriels ou la transcription de réunions sont réellement utiles, les modèles spécifiques à une tâche demandent encore des efforts considérables. Selon M. Luccioni, les modèles prêts à l'emploi sont souvent insuffisants et plus coûteux.

Combler cette lacune représente la prochaine frontière de la valeur ajoutée. "La plupart des entreprises veulent qu'une tâche spécifique soit accomplie", note M. Luccioni. "Elles ne recherchent pas l'intelligence artificielle générale (AGI), mais une intelligence spécialisée. C'est le défi que nous devons relever".

2. Faire de l'efficacité une valeur par défaut

Intégrer les principes de la "théorie du coup de pouce" dans la conception du système, fixer des budgets de calcul prudents, limiter les fonctions génératives toujours actives et exiger des utilisateurs qu'ils optent pour des modes de calcul coûteux.

Dans les sciences du comportement, la "théorie du coup de pouce" consiste à guider subtilement les choix afin d'encourager les comportements positifs. M. Luccioni a cité l'exemple classique de l'offre de couverts pour les repas à emporter : le fait de proposer les ustensiles en option, plutôt que de les inclure par défaut, peut réduire considérablement les déchets.

Le simple fait de passer d'un modèle "opt-out" à un modèle "opt-in" peut influencer fortement le comportement de l'utilisateur", a expliqué M. Luccioni.

Les paramètres par défaut entraînent souvent une utilisation inutile et une augmentation des coûts, car les modèles effectuent des tâches qu'ils n'étaient pas tenus de faire. Par exemple, certains moteurs de recherche génèrent désormais automatiquement des résumés AI en haut des résultats. M. Luccioni a également observé que lors de l'utilisation récente du GPT-5 d'OpenAI, le modèle passait par défaut en mode de raisonnement complet, même pour des requêtes très simples.

"Pour moi, cela devrait être l'exception", a-t-elle déclaré. Si je demande "Quel est le sens de la vie ?", alors bien sûr, un résumé de l'IA peut être utile. Mais pour des questions comme "Quel temps fait-il à Montréal ?" ou "Quelles sont les heures d'ouverture de ma pharmacie locale ?", je n'ai pas besoin d'une IA générative. je n'ai pas besoin d'un résumé génératif. Par défaut, il ne devrait pas y avoir de raisonnement.

3. Optimiser l'utilisation du matériel

Mettre en œuvre le traitement par lots, ajuster la précision numérique et affiner la taille des lots pour la génération spécifique de matériel afin de minimiser les pertes de mémoire et la consommation d'énergie.

Les entreprises doivent évaluer leurs besoins spécifiques : Le modèle doit-il fonctionner en continu ? Sera-t-il confronté à des demandes en temps réel, peut-être 100 en même temps ? Dans ce cas, l'optimisation permanente est essentielle, note M. Luccioni. Toutefois, dans de nombreux autres scénarios, ce n'est pas le cas ; les modèles peuvent être exécutés périodiquement pour conserver la mémoire, et la mise en lots peut optimiser l'utilisation de la mémoire.

Il s'agit d'un défi d'ingénierie, mais d'un défi très spécifique, et il est donc difficile de donner des conseils généraux tels que "distiller tous les modèles" ou "changer la précision de tout"", a déclaré Mme Luccioni.

Dans une étude récente, elle a découvert que la taille idéale d'un lot dépendait fortement du matériel, jusqu'au modèle ou à la version spécifique. L'augmentation de la taille des lots d'une seule unité peut parfois accroître la consommation d'énergie parce que le modèle nécessite plus de ressources de mémoire.

"C'est un aspect que les gens négligent souvent. Ils se disent qu'il suffit de maximiser la taille des lots, mais la véritable efficacité vient de l'ajustement méticuleux de toutes ces variables. Le résultat est un système hautement optimisé, mais adapté à un contexte très spécifique", explique M. Luccioni.

4. Encourager la transparence énergétique

Les mesures d'incitation favorisent le changement. C'est dans cette optique que Hugging Face a lancé l'AI Energy Score au début de l'année. Cette initiative promeut l'efficacité énergétique à l'aide d'un système d'évaluation de 1 à 5 étoiles, où les modèles les plus efficaces obtiennent une désignation "cinq étoiles".

Il s'agit en quelque sorte d'un "Energy Star pour l'IA", inspiré par le programme fédéral de longue date qui fixe des normes d'efficacité et appose son logo sur les appareils qui remplissent les conditions requises.

"Pendant des décennies, le classement par étoiles a été un puissant facteur de motivation. Les gens la voulaient", a déclaré M. Luccioni. "Il serait fantastique d'obtenir un impact similaire avec le score énergétique.

Hugging Face a établi un classement public, qu'elle prévoit de mettre à jour avec de nouveaux modèles tels que DeepSeek et GPT-oss en septembre, et de continuer à le rafraîchir tous les six mois ou au fur et à mesure de l'apparition de nouveaux modèles. L'objectif est que les développeurs de modèles considèrent une note élevée comme un "badge d'honneur", a fait remarquer M. Luccioni.

5. Repenser l'état d'esprit "Plus de calcul, c'est mieux

Au lieu de rechercher les plus grandes grappes de GPU, commencez par vous demander : "Quelle est la manière la plus intelligente d'atteindre le résultat souhaité ?" Pour de nombreuses applications, des architectures plus intelligentes et des ensembles de données mieux sélectionnés donnent de meilleurs résultats qu'une mise à l'échelle brute.

"Je pense que la plupart des gens n'ont probablement pas besoin d'autant de GPU qu'ils le pensent", a déclaré Mme Luccioni. Elle a encouragé les entreprises à reconsidérer les tâches réelles que leurs GPU traiteront, pourquoi ils sont nécessaires, comment ces tâches étaient effectuées auparavant, et quels avantages tangibles les GPU supplémentaires apporteront réellement.

"C'est devenu une course vers le bas, où chacun pense qu'il a besoin d'un plus grand cluster", a-t-elle déclaré. "La clé est d'analyser l'utilisation que l'on fait de l'IA, les techniques spécifiques requises et ce que ces techniques exigent réellement.