L'IA neurosymbolique d'AWS offre une automatisation vérifiable des agents pour les secteurs réglementés

AWS estime que la mise à disposition générale de sa fonctionnalité Automated Reasoning Checks sur Bedrock renforcera la confiance des entreprises et des secteurs réglementés dans l'adoption et le déploiement d'un plus grand nombre d'applications et d'agents d'IA.

La société prévoit en outre que des méthodes telles que le raisonnement automatisé, qui utilise la validation mathématique pour établir la vérité terrain, aideront les entreprises à passer à l'IA neurosymbolique. AWS considère cela comme la prochaine évolution significative et un facteur de différenciation clé dans le paysage de l'IA.

La fonctionnalité « Automated Reasoning Checks » permet aux utilisateurs professionnels de vérifier la précision des réponses et de détecter les hallucinations des modèles. AWS a présenté cette fonctionnalité pour la première fois sur Bedrock lors de sa conférence re:Invent en décembre dernier, affirmant qu'elle pouvait identifier presque toutes les hallucinations. Initialement accessible à un nombre limité d'utilisateurs via Amazon Bedrock Guardrails, cet outil permet aux organisations de définir des politiques d'IA responsables.

Byron Cook, scientifique émérite et vice-président du groupe Automated Reasoning d'AWS, a déclaré à VentureBeat dans une interview que l'aperçu démontrait l'efficacité du système dans les environnements d'entreprise. Il a également aidé les organisations à apprécier la valeur de l'IA qui combine un raisonnement symbolique et structuré avec les capacités des réseaux neuronaux de l'IA générative.

« Le raisonnement automatisé s'inscrit dans le concept plus large de l'IA neurosymbolique », a expliqué M. Cook. « L'intérêt croissant pour l'IA neurosymbolique a permis aux utilisateurs de réaliser à quel point cette technologie est cruciale lorsqu'ils utilisaient activement l'outil. »

M. Cook a indiqué que certains clients avaient autorisé AWS à analyser leurs données et leurs documents d'annotation des réponses. Les performances de l'outil se sont avérées comparables à celles d'un humain disposant d'un règlement. Il a ajouté que si les concepts de vérité et d'exactitude peuvent être subjectifs, le raisonnement automatisé évite en grande partie cette ambiguïté.

« C'était vraiment remarquable », a-t-il déclaré. « Voir des personnes ayant des connaissances en logique débattre de ce qui était vrai dans un chat interne, puis pointer vers l'outil après quelques messages et se rendre compte : "Oh, c'est correct", c'était incroyable. »

Pour la version générale, AWS a amélioré les vérifications de raisonnement automatisées avec de nouvelles fonctionnalités, notamment

• Prise en charge de documents volumineux pouvant contenir jusqu'à 80 000 jetons ou environ 100 pages
• Validation simplifiée des politiques avec la possibilité d'enregistrer et de réutiliser des scénarios de test
• Génération automatisée de scénarios à partir de spécifications prédéfinies
• Suggestions en langage naturel pour affiner les politiques
• Paramètres de validation personnalisables

Selon Cook, les contrôles de raisonnement automatisés valident la véracité d'un système d'IA en prouvant qu'un modèle n'a pas halluciné une solution. Cette capacité pourrait rassurer davantage les régulateurs et les entreprises réglementées préoccupés par la nature non déterministe de l'IA générative, qui produit des résultats incorrects.

IA neurosymbolique et établissement de la vérité

M. Cook a souligné que les contrôles de raisonnement automatisés contribuent à démontrer les principes clés de l'IA neurosymbolique.

L'IA neurosymbolique combine la reconnaissance de formes des réseaux neuronaux, utilisée par les modèles linguistiques, avec la logique structurée de l'IA symbolique. Alors que les réseaux neuronaux apprennent à partir de modèles de données, l'IA symbolique fonctionne selon des règles explicites et un raisonnement logique. Les modèles de base s'appuient principalement sur les réseaux neuronaux, ce qui les rend susceptibles d'hallucinations, une préoccupation majeure pour les entreprises. À l'inverse, l'IA symbolique manque de flexibilité sans programmation manuelle.

Des voix influentes dans le domaine de l'IA, comme Gary Marcus, ont fait valoir que l'IA neurosymbolique est essentielle pour parvenir à une intelligence artificielle générale.

Cook et AWS sont enthousiastes à l'idée d'introduire les concepts de l'IA neurosymbolique dans l'entreprise. Dans un podcast, Matt Marshall de VentureBeat a discuté de l'intérêt d'AWS pour des méthodes telles que les vérifications automatisées du raisonnement, qui appliquent la rigueur mathématique et logique à l'IA générative afin de réduire les hallucinations.

À l'heure actuelle, peu d'entreprises proposent des solutions d'IA neurosymbolique commercialisées, notamment Kognitos, Franz Inc. et UMNAI.

Appliquer la rigueur mathématique à la validation

Le raisonnement automatisé fonctionne en appliquant des preuves mathématiques pour modéliser les réponses à une requête donnée.

Il utilise une méthode appelée « satisfiability modulo theories » (SMT), dans laquelle les symboles ont des significations prédéfinies, pour résoudre des problèmes impliquant à la fois la logique (si, alors, et, ou) et les mathématiques. Cette technique applique cette méthode à la réponse d'un modèle, en la comparant à un ensemble de politiques ou de données de référence sans nécessiter de multiples tests.

Par exemple, une entreprise peut souhaiter vérifier l'exactitude d'un audit financier. Si un modèle signale un rapport contenant des paiements non approuvés, le raisonnement automatisé le décompose en une déclaration logique :

(pour tout ((r Rapport))

(=> (containsUnapprovedVendorPayments r)

(shouldEscalate r)))

Il se réfère ensuite aux définitions, variables et types configurés par l'utilisateur dans Bedrock Guardrails et résout l'équation pour prouver que la réponse du modèle était à la fois correcte et fondée sur la vérité.

Garantir la justesse des agents IA

M. Cook a déclaré que les cas d'utilisation des agents devraient bénéficier considérablement des vérifications automatisées du raisonnement. Un accès plus large via Bedrock permettra de démontrer son utilité. Il a toutefois averti que le raisonnement automatisé et d'autres techniques d'IA neurosymbolique en sont encore à leurs balbutiements.

« Je pense que cela aura un impact sur l'IA agentique, même si ce domaine est encore très spéculatif pour le moment », a déclaré M. Cook. « Plusieurs techniques existent, telles que l'identification de l'ambiguïté dans une déclaration, la mise en évidence des différences clés entre les interprétations possibles, puis la recherche d'éclaircissements auprès de l'utilisateur, qui, selon moi, seront cruciales. Cela reflète le parcours émotionnel que j'ai observé chez les clients qui ont commencé à expérimenter l'IA générative il y a quelques années. »