Les chatbots déforment les nouvelles, impactant même les utilisateurs payés

Pourquoi cela importe-t-il ? Si les chatbots ne peuvent même pas récupérer les actualités aussi efficacement que Google, il est difficile de leur faire confiance pour interpréter et citer ces actualités avec précision. Cela rend le contenu de leurs réponses, même lorsqu'elles sont liées, beaucoup moins fiable.

Réponses erronées données avec assurance

Les chercheurs ont noté que les chatbots donnaient des réponses incorrectes avec une "confiance alarmante", qualifiant rarement leurs résultats ou admettant des lacunes dans leurs connaissances. ChatGPT, par exemple, "n'a jamais refusé de fournir une réponse", bien que 134 de ses 200 réponses soient incorrectes. Parmi les huit outils, Copilot était le seul à refuser de répondre à plus de requêtes qu'il n'en traitait.

"Tous les outils étaient systématiquement plus susceptibles de fournir une réponse incorrecte que de reconnaître leurs limites", a précisé le rapport.

Les versions payantes ne sont pas plus fiables

Même les modèles premium comme Grok-3 Search et Perplexity Pro, bien que plus précis que leurs homologues gratuits, donnaient encore des réponses erronées avec assurance. Cela soulève des questions sur la valeur de leurs coûts d'abonnement souvent élevés.

"Cette contradiction provient principalement de la tendance [des bots] à fournir des réponses définitives, mais erronées, plutôt que de refuser de répondre directement à la question", explique le rapport. "La préoccupation fondamentale va au-delà des erreurs factuelles des chatbots pour inclure leur ton conversationnel autoritaire, qui peut rendre difficile pour les utilisateurs de distinguer les informations précises des informations inexactes."

"Cette confiance non méritée présente aux utilisateurs une illusion potentiellement dangereuse de fiabilité et de précision", a ajouté le rapport.

Fabrication de liens

Les modèles d'IA sont connus pour halluciner, mais l'étude Tow a révélé que Gemini et Grok 3 le faisaient le plus fréquemment, plus de la moitié du temps. "Même lorsque Grok identifiait correctement un article, il reliait souvent à une URL fabriquée", a noté le rapport, ce qui signifie que Grok pouvait trouver le bon titre et l'éditeur, mais ensuite fabriquer le lien de l'article lui-même.

Une analyse des données de trafic de Comscore par Generative AI in the Newsroom, une initiative de l'Université Northwestern, a confirmé ce schéma. Leur étude de juillet à novembre 2024 a montré que ChatGPT avait généré 205 URL rompues dans ses réponses. Bien que les publications retirent occasionnellement des articles, ce qui peut entraîner des erreurs 404, les chercheurs ont noté que l'absence de données archivées suggérait que "le modèle a halluciné des liens plausibles vers des organes de presse autoritaires en répondant aux requêtes des utilisateurs."

Étant donné l'adoption croissante des moteurs de recherche d'IA — Google est tombé en dessous de 90 % de part de marché au quatrième trimestre de 2024 pour la première fois en 10 ans — ces résultats sont préoccupants. La société a également lancé le mode IA pour certains utilisateurs la semaine dernière, remplaçant sa recherche normale par un chatbot malgré l'impopularité généralisée de ses AI Overviews.

Avec environ 400 millions d'utilisateurs affluant vers ChatGPT chaque semaine, l'inexactitude et la distorsion de ses citations font de lui et d'autres outils d'IA populaires des moteurs potentiels de désinformation, même lorsqu'ils extraient du contenu de sites d'actualités rigoureusement vérifiés.

Le rapport Tow a conclu que les outils d'IA attribuant incorrectement des sources ou représentant mal leur travail pourraient nuire à la réputation des éditeurs.

Ignorer les crawlers bloqués

La situation s'aggrave pour les éditeurs, car le rapport Tow a constaté que plusieurs chatbots pouvaient encore récupérer des articles d'éditeurs qui avaient bloqué leurs crawlers en utilisant le Protocole d'Exclusion des Robots (REP), ou robots.txt. Paradoxalement, cependant, les chatbots n'ont pas réussi à répondre correctement aux requêtes concernant les sites qui leur permettent d'accéder à leur contenu.

"Perplexity Pro était le pire contrevenant à cet égard, identifiant correctement près d'un tiers des quatre-vingt-dix extraits d'articles auxquels il n'aurait pas dû avoir accès", indique le rapport.

Cela suggère que non seulement les entreprises d'IA continuent d'ignorer le REP — comme Perplexity et d'autres ont été surprises à le faire l'année dernière — mais que les éditeurs ayant un quelconque accord de licence avec eux ne sont pas garantis d'être correctement cités.

Le rapport de Columbia n'est qu'un symptôme d'un problème plus large. Le rapport Generative AI in the Newsroom a également découvert que les chatbots dirigent rarement le trafic vers les sites d'actualités dont ils extraient des informations, ce que d'autres rapports confirment. De juillet à novembre 2024, Perplexity a transmis 7 % des références aux sites d'actualités, tandis que ChatGPT n'en a transmis que 3 %. En comparaison, les outils d'IA avaient tendance à favoriser les ressources éducatives comme Scribd.com, Coursera, et celles liées aux universités, envoyant jusqu'à 30 % du trafic dans leur direction.

En fin de compte : le journalisme original reste une source d'actualités plus fiable que ce que les outils d'IA régurgitent. Vérifiez toujours les liens avant d'accepter ce qu'ils vous disent comme un fait, et utilisez vos compétences en pensée critique et en littératie médiatique pour évaluer les réponses.