Une start-up du MIT s'attaque aux hallucinations de l'IA en apprenant aux systèmes à admettre l'incertitude

Les risques associés aux hallucinations de l'IA augmentent à mesure que ces modèles sont de plus en plus utilisés pour obtenir des informations critiques et prendre des décisions à fort enjeu.

Nous connaissons tous quelqu'un qui se comporte comme un je-sais-tout, refusant d'admettre son ignorance ou offrant des conseils discutables sur la base d'informations glanées en ligne. Les hallucinations de l'IA sont comme cet ami, mais dans ce cas, l'ami pourrait être en train de concevoir votre traitement contre le cancer.

C'est là que Themis AI intervient. Issue du MIT, l'entreprise est parvenue à un résultat qui semble simple dans son concept mais qui est techniquement difficile : apprendre aux systèmes d'IA à reconnaître et à admettre l'incertitude.

Les modèles d'IA ont tendance à être trop confiants. La plateforme Capsa de Themis permet de vérifier la réalité, en aidant les modèles à identifier les moments où ils spéculent au lieu d'agir avec certitude.

Fondée en 2021 par Daniela Rus, professeur au MIT, et Alexander Amini et Elaheh Ahmadi, anciens chercheurs associés, Themis AI a mis au point une plateforme qui s'intègre à presque tous les systèmes d'IA, signalant les moments d'incertitude avant qu'ils n'entraînent des erreurs.

Grâce à Capsa, l'IA apprend à reconnaître les schémas dans son propre traitement de données qui suggèrent une confusion, un biais ou des lacunes dans l'information - des conditions qui conduisent souvent à des hallucinations.

Depuis son lancement, Themis déclare avoir aidé des entreprises de télécommunications à éviter des erreurs coûteuses dans la planification de leur réseau, aidé des sociétés pétrolières et gazières à interpréter des données sismiques complexes et publié des recherches sur la création de chatbots qui évitent d'inventer des faits en toute confiance.

Nombreux sont ceux qui ignorent encore à quel point les systèmes d'IA font souvent des suppositions éclairées. À mesure que ces systèmes assument des rôles de plus en plus vitaux, de telles suppositions peuvent avoir des conséquences importantes. Themis AI introduit un élément manquant : la conscience de soi.

Le chemin de Themis AI vers la résolution des hallucinations de l'IA

L'aventure de Themis AI a commencé il y a plusieurs années dans le laboratoire du professeur Rus au MIT, où les chercheurs se sont penchés sur une question fondamentale : Comment une machine peut-elle prendre conscience de ses propres limites ?

En 2018, Toyota a financé leurs travaux sur une IA fiable pour les véhicules autonomes - une industrie où les erreurs peuvent mettre la vie en danger. Le défi est particulièrement important lorsque les voitures autonomes doivent détecter avec précision les piétons et les dangers de la route.

Leur percée a été réalisée grâce à un algorithme capable d'identifier les préjugés raciaux et sexistes dans les systèmes de reconnaissance faciale. Au lieu de se contenter de détecter les préjugés, leur système les corrige en rééquilibrant les données d'entraînement, apprenant ainsi à l'IA à surmonter ses propres préjugés.

D'ici 2021, l'équipe a démontré comment cette méthode pourrait transformer la découverte de médicaments. Les systèmes d'IA pourraient évaluer les médicaments potentiels tout en mettant en évidence les prédictions fondées sur des données solides par rapport à la spéculation ou aux hallucinations totales. Les sociétés pharmaceutiques ont compris l'intérêt de ne s'intéresser qu'aux candidats médicaments dont l'IA était sûre, ce qui leur a permis de gagner du temps et d'économiser des ressources.

Un autre avantage s'applique aux appareils dont la puissance de calcul est limitée. Les appareils périphériques s'appuient souvent sur des modèles plus petits qui ne peuvent pas atteindre la précision des systèmes basés sur des serveurs. La technologie de Themis permet à ces modèles locaux de gérer la plupart des tâches de manière autonome, en ne sollicitant l'aide du serveur que lorsqu'ils rencontrent des difficultés.

L'IA offre un immense potentiel pour améliorer nos vies, mais cela s'accompagne de risques réels. À mesure que l'IA s'intègre dans les infrastructures critiques et les processus décisionnels, la capacité à reconnaître l'incertitude - et à éviter les hallucinations - pourrait s'avérer être sa caractéristique la plus humaine et la plus précieuse. Themis AI aide les modèles à acquérir cette compétence essentielle.

Voir aussi : Gestion du diabète : IBM et Roche utilisent l'IA pour prévoir la glycémie

Vous voulez en savoir plus sur l'IA et le big data auprès des leaders de l'industrie ? Rendez-vous à AI & Big Data Expo, qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement complet est organisé en même temps que d'autres événements de premier plan, notamment Intelligent Automation Conference, BlockX, Digital Transformation Week et Cyber Security & Cloud Expo.

Découvrez d'autres événements et webinaires sur les technologies d'entreprise organisés par TechForge ici.