Explication des termes clés de l'IA : Des LLM aux hallucinations

Le monde de l'intelligence artificielle est vaste et complexe. Les experts de ce domaine utilisent souvent un jargon technique pour expliquer leur travail. C'est pourquoi notre couverture de l'industrie de l'IA inclut ces termes spécialisés. Nous avons élaboré ce glossaire pour clarifier les mots et expressions clés que vous rencontrerez dans nos articles.

Nous mettrons régulièrement ce guide à jour au fur et à mesure que les chercheurs développeront de nouvelles méthodes et identifieront de nouveaux problèmes de sécurité à la pointe de l'IA.

AGI

L'intelligence artificielle générale, ou AGI, est un terme large et souvent débattu. Il décrit généralement une IA qui surpasse les capacités humaines dans un large éventail de tâches. Sam Altman, de l'OpenAI, l'a décrite comme un "humain médian que vous pourriez engager comme collègue", tandis que la charte de l'OpenAI définit l'AGI comme "des systèmes hautement autonomes qui surpassent les humains dans la plupart des tâches économiquement utiles". Google DeepMind propose un point de vue légèrement différent, la définissant comme "une IA au moins aussi performante que les humains dans la plupart des tâches cognitives". Le concept reste flou, même parmi les principaux chercheurs en IA.

Agent d'IA

Un agent d'IA est un outil qui exploite l'IA pour exécuter de manière autonome des tâches à plusieurs étapes au-delà des simples interactions avec un chatbot. Il peut s'agir de classer des dépenses, de réserver des voyages ou de gérer du code. En tant que domaine en évolution, la définition d'un "agent d'IA" peut varier, et l'infrastructure nécessaire est encore en cours de développement. Fondamentalement, il s'agit d'un système autonome qui peut coordonner plusieurs modèles d'IA pour atteindre des objectifs complexes.

Chaîne de pensée

Les humains peuvent répondre instantanément à des questions simples, mais les problèmes complexes nécessitent souvent d'être décomposés en plusieurs étapes. Par exemple, la résolution d'une énigme logique concernant les animaux d'une ferme nécessite des calculs intermédiaires.

En IA, le raisonnement par chaîne de pensée est une technique dans laquelle de grands modèles de langage décomposent un problème en étapes logiques plus petites. Ce processus, bien que plus lent, augmente considérablement la précision, en particulier pour les tâches de logique ou de codage. Les modèles de raisonnement spécialisés sont construits sur la base des LLM traditionnels et optimisés pour ce raisonnement étape par étape grâce à l'apprentissage par renforcement.

(Voir : Grand modèle de langage)

Rejoignez-nous aux TechCrunch Sessions : AI

Réservez votre place à notre premier événement de l'industrie de l'IA, avec des intervenants d'OpenAI, d'Anthropic et de Cohere. Pour une durée limitée, obtenez un laissez-passer d'une journée complète pour seulement 292 $, offrant des conférences d'experts, des ateliers et un puissant réseau de contacts.

Exposez à TechCrunch Sessions : AI

Présentez votre innovation à plus de 1 200 décideurs lors des TC Sessions : AI. Réservez un stand à un prix abordable avant le 9 mai ou jusqu'à épuisement des stocks.

Apprentissage en profondeur

Branche sophistiquée de l'apprentissage automatique dans laquelle les algorithmes d'IA sont construits avec des réseaux neuronaux artificiels multicouches. Cette architecture leur permet d'identifier des modèles et des corrélations complexes, bien au-delà des modèles plus simples comme les arbres de décision. Inspirés par le cerveau humain, les modèles d'apprentissage profond apprennent de manière autonome les caractéristiques clés des données sans qu'il soit nécessaire de les définir manuellement. Ils s'améliorent par la répétition et la correction des erreurs.

Toutefois, ces modèles nécessitent des ensembles de données massifs (des millions de points ou plus) et des ressources informatiques considérables pour l'apprentissage, ce qui entraîne des coûts de développement plus élevés par rapport à l'apprentissage automatique traditionnel.

(Voir : Réseau neuronal)

Diffusion

La diffusion est la technologie de base de nombreux modèles d'IA modernes qui génèrent de l'art, de la musique et du texte. Inspirés par la physique, ces systèmes ajoutent progressivement du bruit aux données - comme une image ou un son - jusqu'à ce que leur structure d'origine soit complètement obscurcie. Contrairement au processus irréversible de la nature, les modèles de diffusion de l'IA apprennent à inverser cette destruction, en reconstruisant des données cohérentes à partir du bruit, ce qui leur confère de puissantes capacités de génération.

Distillation

La distillation est une technique "enseignant-étudiant" qui permet de transférer les connaissances d'un grand modèle d'IA à un modèle plus petit. Les développeurs interrogent le modèle enseignant et enregistrent ses résultats, qui sont ensuite utilisés pour former le modèle étudiant à imiter le comportement de l'enseignant. Ce processus permet de créer un modèle plus petit, plus rapide et plus efficace, avec une perte de performance minimale - une méthode que l'on pense être à l'origine de versions comme GPT-4 Turbo.

Bien que couramment utilisée en interne, la distillation du modèle d'un concurrent constitue généralement une violation des conditions de service de l'API, ce qui soulève des questions éthiques et juridiques dans le secteur.

Mise au point

Il s'agit de l'entraînement supplémentaire d'un modèle d'IA préexistant afin de spécialiser ses performances pour une tâche ou un domaine spécifique. Il s'agit d'alimenter le modèle avec de nouvelles données orientées vers la tâche. De nombreuses start-ups spécialisées dans l'IA commencent par un grand modèle linguistique à usage général, puis l'affinent à l'aide de données propriétaires afin d'améliorer son utilité pour un secteur particulier, tel que le droit ou la médecine.

(Voir : Grand modèle linguistique [LLM])

GAN

Le GAN (Generative Adversarial Network) est un cadre d'apprentissage automatique qui permet de progresser dans la génération de données réalistes, y compris les "deepfakes". Il utilise deux réseaux neuronaux en concurrence : un générateur qui crée des données et un discriminateur qui évalue leur authenticité. Ce processus contradictoire pousse le générateur à produire des résultats de plus en plus réalistes sans intervention humaine constante. Les GAN excellent dans des applications ciblées telles que la génération d'images, mais sont moins adaptés à l'IA généraliste.

Hallucination

L'hallucination est le terme utilisé dans l'industrie pour désigner le fait que les modèles d'IA génèrent des informations incorrectes ou fabriquées. Il s'agit d'un défi majeur pour la fiabilité et la sécurité de l'IA. Les résultats trompeurs peuvent présenter des risques dans le monde réel, par exemple en donnant des conseils médicaux dangereux. Bien que la plupart des outils de GenAI incluent des clauses de non-responsabilité, le problème persiste en raison des lacunes inhérentes aux données de formation, en particulier pour les modèles à large base. Ce problème pousse à développer des modèles d'IA plus spécialisés et verticaux qui opèrent dans des domaines de connaissances plus étroits et mieux définis afin de réduire les erreurs.

Inférence

L'inférence est le processus qui consiste à utiliser un modèle d'IA formé pour faire des prédictions ou tirer des conclusions à partir de nouvelles données. C'est la phase d'application qui suit la formation. L'inférence peut s'exécuter sur différents matériels, des smartphones aux serveurs en nuage dotés de puces d'IA spécialisées, mais les performances varient considérablement. Les grands modèles s'exécutent lentement sur du matériel grand public par rapport à des systèmes dédiés et très performants.

[Voir : Formation]

Grand modèle de langage (LLM)

Les grands modèles de langage, ou LLM, alimentent les assistants d'intelligence artificielle les plus populaires, tels que ChatGPT, Claude et Gemini. Lorsque vous interagissez avec ces outils, vous vous engagez avec un LLM, souvent complété par des capacités telles que la navigation sur le web. Le modèle sous-jacent (par exemple, le GPT d'OpenAI) et le produit de consommation (par exemple, ChatGPT) peuvent avoir des noms distincts.

Les LLM sont des réseaux neuronaux profonds avec des milliards de paramètres qui apprennent des modèles à partir de grandes quantités de texte. Ils construisent une représentation complexe et multidimensionnelle du langage. Lorsqu'ils sont sollicités, ils génèrent des réponses en prédisant la séquence de mots la plus probable sur la base des modèles statistiques appris au cours de la formation.

(Voir : Réseau neuronal)

Réseau neuronal

Un réseau neuronal est la structure algorithmique en couches qui est à la base de l'apprentissage profond et de l'essor de l'IA moderne. Bien que le concept s'inspire du cerveau humain depuis les années 1940, sa puissance pratique a été débloquée par l'essor des GPU de l'industrie du jeu. Ces puces entraînent efficacement des réseaux à plusieurs couches, permettant des percées dans des domaines tels que la reconnaissance vocale, la navigation autonome et l'IA générative.

(Voir : Grand modèle de langage [LLM])

Formation

La formation est le processus qui consiste à fournir des données à un modèle d'apprentissage automatique afin qu'il puisse apprendre des modèles et améliorer ses résultats. Au départ, un modèle n'est qu'une structure de nombres aléatoires ; la formation le transforme en un outil fonctionnel, qu'il s'agisse d'identifier des images ou d'écrire du texte. Ce processus peut être gourmand en ressources, car il nécessite de grandes quantités de données et de puissance de calcul. Les approches hybrides, comme le réglage fin d'un système basé sur des règles, peuvent aider à gérer ces coûts.

[Voir : Inférence]

Apprentissage par transfert

Technique selon laquelle un modèle formé pour une tâche est utilisé comme point de départ pour une tâche connexe mais différente. Cela permet de tirer parti des connaissances acquises précédemment et d'économiser du temps et des ressources, en particulier lorsque les données relatives à la nouvelle tâche sont limitées. Cependant, le modèle nécessite généralement une formation supplémentaire sur les données spécifiques du nouveau domaine pour donner de bons résultats.

(Voir : Réglage fin)

Pondérations

Les poids sont les paramètres numériques de base d'un modèle d'IA qui déterminent l'importance des différentes caractéristiques d'entrée au cours de la formation. Ils sont initialement fixés de manière aléatoire et sont systématiquement ajustés au fur et à mesure que le modèle apprend, façonnant ainsi sa sortie finale. Dans un modèle prédisant les prix des logements, par exemple, des poids seraient appris pour des caractéristiques telles que le nombre de chambres ou l'emplacement, quantifiant leur influence sur le prix final sur la base des données d'apprentissage.