Impact psychologique inattendu : comment l'IA défie la cognition humaine

Le monde est captivé par l'IA. Près d'un milliard de personnes utilisent désormais les produits d'OpenAI, un jalon atteint en seulement deux ans. C'est la formule classique de la Silicon Valley : construire quelque chose d'incroyable, le rendre abordable, nous rendre accros, puis trouver comment réaliser des bénéfices.

Nous sommes attirés par l'IA parce qu'elle offre des raccourcis cognitifs à une échelle sans précédent. Cependant, cette voie pourrait ne pas mener à une issue positive pour beaucoup. Nous commencerons par déléguer quelques tâches à l'IA, pour découvrir bientôt qu'elle gère tout. Dans ce processus, nous risquons de perdre notre acuité intellectuelle, nos emplois et nos opportunités futures.

Mais ce futur n'est pas inéluctable. Voici comment reconnaître la voie qui s'offre à nous — et en choisir une autre.

Le tournant approchant

J'ai essayé ChatGPT pour la première fois en mars 2023. Aujourd'hui, j'utilise ChatGPT ou Claude quotidiennement. L'IA a accéléré ma réflexion et boosté ma productivité, mais j'ai aussi remarqué une complaisance mentale grandissante.

Avant, je relisais méticuleusement chaque brouillon produit par l'IA. Maintenant, elle fournit une première tentative solide environ 90% du temps, et je perds l'envie de vérifier son travail.

Il y a un an, je croyais que la main-d'œuvre se scinderait entre utilisateurs et non-utilisateurs d'IA. Je vois maintenant que cette prédiction était erronée. D'ici cinq ans, l'IA sera omniprésente. La vraie division sera entre ceux qui dirigent activement leurs outils d'IA et ceux qui leur abandonnent passivement leur raisonnement.

Le coût cognitif de la sous-traitance de la pensée

Les humains ont longtemps délégué le travail mental. Avant l'écriture, les bardes mémorisaient l'intégralité de l'Iliade d'Homère. Aujourd'hui, la technologie sert de prolongement à notre esprit, nous permettant de confier des tâches comme les calculs, la navigation et la prise de notes.
L'IA est une autre paire de manches. Elle peut relever presque tous les défis intellectuels, et elle paraît très efficace. Alors, nous commençons à sous-traiter innocemment. Vous demandez à l'IA de rédiger un e-mail. Elle fait du bon travail et vous économisez dix minutes. Ensuite, vous demandez un plan de présentation. Elle le livre.

Vous lui confiez progressivement des missions plus complexes, comme formuler une stratégie. Alors que vous en venez à dépendre de l'IA pour effectuer le travail, vos propres compétences diminuent lentement.

Une étude de Microsoft et de Carnegie Mellon a révélé que l'IA générative peut altérer notre esprit critique. Lorsque les travailleurs du savoir font confiance à la production de l'IA, ils sont moins enclins à mobiliser leurs propres facultés cognitives.

Ceux d'entre nous qui font confiance à l'IA, moi y compris, comptons sur notre propre jugement pour vérifier ses résultats. Cependant, cette approche présente deux défauts majeurs : 1) Nous surestimons notre capacité à détecter les erreurs de l'IA, et 2) L'envie de sauter la vérification devient plus forte avec le temps.

Pilotes de l'IA vs Passagers de l'IA

Au cours de la prochaine décennie, l'économie du savoir se séparera en deux camps : les pilotes de l'IA et les passagers de l'IA.

Les passagers de l'IA délégueront allègrement leurs responsabilités cognitives à l'IA. Ils colleront une instruction dans ChatGPT, copieront le résultat et le présenteront comme leur propre travail.

À court terme, ils seront félicités pour leur rapidité. Mais alors que l'IA fonctionne avec un minimum d'intervention humaine, les passagers seront jugés superflus car ils n'apportent aucune valeur unique à la production de l'IA.

Les pilotes de l'IA insisteront pour rester aux commandes. Ils traiteront le travail de l'IA comme une ébauche préliminaire et l'examineront minutieusement. Ils l'éteindront aussi périodiquement, prenant le temps de réfléchir par eux-mêmes.

À long terme, l'écart économique entre ces groupes se creusera significativement. Les pilotes de l'IA capteront une part disproportionnée de la richesse, tandis que les passagers deviendront facilement remplaçables.

Devenir un pilote de l'IA

Établissez-vous comme le patron de l'IA en suivant ces principes :

1. Tirez parti de votre expertise. Utilisez l'IA dans des domaines où vous avez déjà des connaissances, et maintenez un regard critique sur ses suggestions.
2. Engagez un dialogue, n'exigez pas des réponses. Au lieu de demander : "Que devrions-nous faire avec notre budget marketing ?", fournissez à l'IA des contraintes, des données et des alternatives. Débattez de ses propositions.
3. Restez hyper-vigilant. Soyez un participant actif. Ne supposez jamais que le résultat est suffisant. Mettez-vous au défi de demander : "Est-ce vraiment une recommandation solide ?"
4. Pratiquez un scepticisme actif. Remettez continuellement en question l'IA de votre propre point de vue. Par exemple : "Cela ne néglige-t-il pas les risques potentiels de l'entreprise ?"
5. Résistez à l'envie de sous-traiter chaque premier jet. Une page blanche peut être intimidante, mais elle est essentielle pour stimuler vos propres processus cognitifs.
6. Prenez la décision finale et assumez-la. Laissez l'IA éclairer vos décisions de moyenne à haute importance, mais l'ultime décision vous revient. Assumez la responsabilité de vos choix en tant qu'humain.

Votre esprit est une chose terrible à gâcher

L'IA offre désormais un partenaire de réflexion disponible 24h/24, avec une "expertise" sur pratiquement n'importe quel sujet.

Pourtant, vous vous tenez à un carrefour. Vous verrez beaucoup de collègues renoncer à la "pensée active" et déléguer leur prise de décision à l'IA. Beaucoup ne réaliseront même pas que leurs capacités cognitives se sont affaiblies avant qu'il ne soit trop tard, et inverser la tendance sera difficile.

Ne soyez pas l'un d'eux. Utilisez l'IA pour tester et fortifier votre raisonnement, pas pour le remplacer.

La question cruciale n'est plus : "Allez-vous utiliser l'IA ?" C'est : "Quel type d'utilisateur d'IA choisirez-vous d'être : un pilote ou un passager ?"

Greg Shove est le PDG de Section.