L'autonomie incontrôlée de l'IA présente un risque très grave

Si vous avez déjà pris un Uber autonome dans le centre-ville de Los Angeles, vous vous souvenez peut-être de cette étrange incertitude qui s'installe lorsqu'il n'y a ni conducteur ni conversation, juste une voiture silencieuse qui interprète le monde qui l'entoure. Le trajet semble normal jusqu'à ce que le véhicule interprète mal une ombre ou freine brusquement sans raison valable. À cet instant, vous entrevoyez le problème fondamental de l'autonomie : elle ne panique pas quand elle le devrait. C'est dans cet écart entre sa confiance et son jugement que la confiance se construit ou se brise. La plupart des IA d'entreprise actuelles présentent des similitudes frappantes. Elles sont capables, mais manquent de confiance, efficaces, mais dépourvues d'empathie. C'est pourquoi le facteur critique de tout déploiement réussi n'est plus la puissance de calcul brute, mais la confiance.

Le rapport MLQ State of AI in Business 2025 [PDF] le montre clairement : 95 % des premiers projets pilotes d'IA ne parviennent pas à générer un retour sur investissement mesurable. Cela n'est pas dû à la faiblesse de la technologie, mais au fait qu'elle est appliquée à des problèmes inappropriés. Ce schéma se répète dans tous les secteurs. Les dirigeants s'inquiètent lorsqu'ils ne peuvent pas vérifier l'exactitude des résultats, les équipes doutent de leurs tableaux de bord, les clients perdent patience lorsqu'une interaction leur semble robotique plutôt que solidaire. Quiconque s'est déjà vu bloquer l'accès à son compte bancaire alors qu'un système de récupération automatisé affirmait que ses réponses étaient incorrectes sait à quelle vitesse la confiance s'évapore.

Klarna reste l'exemple le plus médiatisé d'automatisation à grande échelle au travail. L'entreprise a réduit de moitié ses effectifs depuis 2022 et indique que son IA interne effectue désormais le travail de 853 postes à temps plein, contre 700 au début de l'année. Le chiffre d'affaires a bondi de 108 % et la rémunération moyenne des employés a augmenté de 60 %, en partie grâce à ces gains opérationnels. Mais la situation est plus complexe. Klarna a encore enregistré une perte trimestrielle de 95 millions de dollars, et son PDG a annoncé de nouvelles réductions de personnel. Cela montre que l'automatisation seule ne garantit pas la stabilité. Sans une responsabilité et une structure adéquates, l'expérience utilisateur s'effondre bien avant l'IA. Comme l'affirme Jason Roos, PDG du fournisseur CCaaS Cirrus, « toute transformation qui érode la confiance, en interne ou en externe, a un coût que vous ne pouvez ignorer. Elle peut vous mettre dans une situation pire qu'avant. »

Nous avons déjà vu ce qui se passe lorsque l'autonomie l'emporte sur la responsabilité. Le ministère britannique du Travail et des Retraites a utilisé un algorithme qui a signalé à tort environ 200 000 demandes légitimes d'aide au logement comme potentiellement frauduleuses. Le problème ne venait pas de la technologie, mais de l'absence de responsabilité claire quant à ses décisions. Lorsqu'un système automatisé suspend un compte par erreur, rejette une demande valide ou provoque une alerte inutile, la question n'est pas seulement « pourquoi le modèle a-t-il échoué ? », mais « qui est responsable du résultat ? ». Sans réponse à cette question, la confiance devient fragile.

« L'étape manquante est toujours la préparation », explique M. Roos. « Si le processus, les données et les garde-fous ne sont pas en place, l'autonomie n'améliore pas les performances, elle amplifie les faiblesses. La responsabilité doit passer avant tout. Commencez par définir le résultat souhaité, identifiez les efforts inutiles, vérifiez votre état de préparation et votre gouvernance, puis automatisez. Si vous ignorez ces étapes, la responsabilité disparaîtra aussi vite que les gains d'efficacité apparaîtront. »

Une partie du problème réside dans l'obsession de l'échelle sans les fondements nécessaires pour la soutenir. De nombreuses organisations se précipitent pour déployer des agents autonomes capables d'agir de manière décisive, mais rares sont celles qui réfléchissent à ce qui se passe lorsque ces actions dépassent les limites prévues. Le baromètre Edelman Trust [PDF] montre une baisse constante de la confiance du public dans l'IA depuis cinq ans. Une étude conjointe de KPMG et de l'université de Melbourne a révélé que les travailleurs préfèrent une implication plus humaine dans près de la moitié des tâches examinées. Ces résultats soulignent une vérité simple : la confiance vient rarement d'une utilisation plus intensive des modèles. Elle vient de la compréhension par les gens de la manière dont les décisions sont prises et d'une gouvernance qui agit moins comme un frein que comme un volant.

La même dynamique apparaît du côté des clients. Une étude de PwC sur la confiance révèle un écart important entre la perception et la réalité : la plupart des dirigeants pensent que les clients font confiance à leur organisation, mais seule une minorité de clients est d'accord avec cette affirmation. D'autres enquêtes montrent que la transparence contribue à réduire cet écart, la plupart des consommateurs souhaitant une divulgation claire lorsque l'IA est utilisée dans les interactions de service. Sans cette clarté, les gens ne se sentent pas rassurés, ils se sentent trompés, ce qui met à rude épreuve la relation. Les entreprises qui communiquent ouvertement sur leur utilisation de l'IA ne se contentent pas de protéger la confiance, elles normalisent l'idée que la technologie et le soutien humain peuvent coexister.

Une certaine confusion découle du terme « IA agentique » lui-même. Une grande partie du marché le considère comme quelque chose d'imprévisible ou d'autonome, alors qu'il s'agit en réalité d'une automatisation des flux de travail améliorée par le raisonnement et la mémoire. Il s'agit d'une méthode structurée permettant aux systèmes de prendre des décisions limitées dans le cadre de paramètres conçus par l'homme. Les déploiements réussis et évolutifs suivent tous la même séquence : ils commencent par le résultat à améliorer, identifient les efforts inutiles dans le flux de travail, évaluent la capacité du système et de l'équipe à fonctionner de manière autonome, puis sélectionnent la technologie. Inverser cet ordre ne permet pas d'accélérer les choses, mais conduit simplement à des erreurs plus rapides. Comme le note M. Roos, l'IA doit élargir le jugement humain, et non le remplacer.

Tout cela renvoie à une vérité plus large. Chaque vague d'automatisation finit par devenir une question sociale, et pas seulement technique. Amazon a bâti sa domination grâce à la cohérence de ses opérations, mais aussi grâce à la certitude que votre colis arriverait à destination. Lorsque cette certitude s'estompe, les clients partent. L'IA suit le même schéma. Vous pouvez déployer des systèmes sophistiqués et autocorrecteurs, mais si un client se sent trompé ou induit en erreur à un moment donné, la confiance s'effondre. En interne, les mêmes pressions s'appliquent. L'étude mondiale de KPMG [PDF] souligne à quelle vitesse les employés se désengagent lorsqu'ils ne comprennent pas comment les décisions sont prises ou qui en est responsable. Sans cette clarté, l'adoption stagne.

À mesure que les systèmes agents assument des rôles plus conversationnels, la dimension émotionnelle prend encore plus d'importance. Les premières évaluations des interactions autonomes par chat montrent que les gens jugent désormais leur expérience non seulement en fonction de l'aide qu'ils ont reçue, mais aussi en fonction du caractère attentif et respectueux de l'interaction. Un client qui se sent rejeté garde rarement sa frustration pour lui. Le ton émotionnel de l'IA devient un véritable facteur opérationnel, et les systèmes qui ne répondent pas à cette attente risquent de devenir des handicaps.

La dure réalité est que la technologie évoluera toujours plus vite que le confort instinctif des gens à son égard. La confiance sera inévitablement à la traîne par rapport à l'innovation. Il ne s'agit pas d'un argument contre le progrès, mais d'un appel à la maturité. Chaque responsable de l'IA devrait se poser les questions suivantes : est-ce que je confierais mes propres données à ce système ? Puis-je expliquer sa dernière décision en langage clair ? Qui intervient lorsque quelque chose ne va pas ? Si les réponses à ces questions ne sont pas claires, l'organisation ne mène pas une transformation, elle prépare des excuses.

Roos le dit simplement : « L'IA agentique n'est pas le problème. C'est l'IA irresponsable qui l'est. »

Lorsque la confiance disparaît, l'adoption disparaît avec elle, et le projet qui semblait transformateur devient un autre élément du taux d'échec de 95 %. L'autonomie n'est pas l'ennemi. L'oubli de qui est responsable l'est. Les organisations qui gardent la main sur le volant seront celles qui resteront aux commandes lorsque l'engouement pour la conduite autonome finira par s'estomper.