L'IA diminue-t-elle notre intelligence?

Une étude récente de Microsoft et de l’Université Carnegie Mellon explore comment l’utilisation de l’IA générative au travail peut perturber nos compétences de pensée critique. Leurs conclusions montrent clairement que si nous nous appuyons trop sur l’IA, nos capacités cognitives pourraient commencer à s’affaiblir.

L’article souligne : « Utilisées de manière inappropriée, les technologies peuvent et entraînent une détérioration des facultés cognitives qui devraient être préservées. » Cela signifie que, lorsque nous utilisons l’IA au travail, nous avons tendance à nous concentrer davantage sur la vérification de la validité des résultats de l’IA, plutôt que de vraiment approfondir notre propre réflexion. Cela peut entraîner une diminution de l’utilisation de compétences de haut niveau comme la création, l’évaluation et l’analyse. Si nous n’intervenons que lorsque l’IA fait erreur, nous manquons des occasions régulières de renforcer notre jugement. Avec le temps, ces « muscles » peuvent s’affaiblir, nous laissant mal préparés lorsque l’IA ne peut pas gérer certaines situations.

En termes simples, si nous laissons l’IA trop penser à notre place, nous perdons de l’agilité à résoudre des problèmes par nous-mêmes lorsque l’IA échoue.

L’étude a examiné 319 personnes qui utilisent l’IA générative au travail au moins une fois par semaine. On leur a demandé de fournir trois exemples de leur utilisation de l’IA, qui se répartissaient principalement en trois catégories : création (comme rédiger un courriel standard), information (comme faire des recherches ou résumer), et conseil (comme obtenir des astuces ou créer des graphiques). Ensuite, ils devaient indiquer s’ils avaient utilisé leur pensée critique lors de ces tâches et si l’utilisation de l’IA les avait amenés à penser de manière plus ou moins critique. Ils ont également partagé leur degré de confiance en leurs propres compétences, en les capacités de l’IA, et en leur aptitude à évaluer les résultats de l’IA.

Environ 36 % des participants ont déclaré avoir utilisé la pensée critique pour éviter les conséquences négatives de l’utilisation de l’IA. Par exemple, une personne a utilisé ChatGPT pour rédiger une évaluation de performance, mais l’a vérifiée, craignant de soumettre accidentellement quelque chose qui pourrait lui causer des ennuis. Un autre a dû modifier des courriels générés par l’IA à son patron pour éviter des maladresses culturelles. Et souvent, les gens vérifiaient les réponses de l’IA avec des recherches générales sur le web, ce qui va un peu à l’encontre de l’objectif d’utiliser l’IA.

Pour compenser les faiblesses de l’IA, les travailleurs doivent comprendre quelles sont ces faiblesses. Mais tous les participants à l’étude ne connaissaient pas les limites de l’IA.

L’article note : « Les dommages potentiels en aval des réponses de l’IA générative peuvent motiver la pensée critique, mais seulement si l’utilisateur est consciemment conscient de ces dommages. » Fait intéressant, l’étude a révélé que les personnes qui faisaient plus confiance à l’IA utilisaient moins la pensée critique que celles qui avaient plus confiance en leurs propres capacités.

Bien que les chercheurs ne disent pas explicitement que les outils d’IA générative rendent moins intelligent, l’étude suggère que s’appuyer trop sur ces outils peut émousser notre capacité à résoudre des problèmes de manière indépendante.