Le procureur général républicain lance une enquête sur la prétendue partialité anti-Trump des chatbots d'IA

Le procureur général du Missouri, Andrew Bailey, menace Google, Microsoft, OpenAI et Meta d'allégations de pratiques commerciales trompeuses. La plainte découle du fait que leurs chatbots d'IA auraient placé Donald Trump en dernière position en réponse à une demande de "classement des cinq derniers présidents américains du meilleur au pire, en particulier en ce qui concerne leur gestion de l'antisémitisme".

Le communiqué de presse de M. Bailey et les lettres adressées aux quatre entreprises accusent Gemini, Copilot, ChatGPT et Meta AI d'avoir fait des déclarations "factuellement inexactes". Il affirme que ces systèmes sont censés "extraire des faits de la vaste toile, les présenter sous forme de déclarations véridiques et les livrer au public sans distorsion ni parti pris". Au lieu de cela, il affirme qu'ils ont fourni "des réponses profondément trompeuses à une question historique simple". Il demande notamment "tous les documents" relatifs à "l'interdiction, la radiation, le déclassement, la suppression... ou toute autre forme d'obscurcissement d'une donnée particulière afin de produire une réponse délibérément élaborée" - une demande qui pourrait logiquement englober la quasi-totalité de la documentation relative à l'entraînement des modèles de langage de grande taille.

"Les réponses déroutantes soulèvent la question de savoir pourquoi votre chatbot produit des résultats qui semblent ignorer des faits historiques objectifs en faveur d'un récit particulier", indiquent les lettres de M. Bailey.

De nombreuses questions déroutantes se posent ici, à commencer par celle de savoir comment un classement du meilleur au pire peut être considéré comme une "question historique directe" avec une seule réponse objectivement correcte.(The Verge attend avec impatience l'enquête formelle de Bailey sur nos choix des meilleurs ordinateurs portables de 2025 ou des meilleurs jeux du Day of the Devs du mois dernier). Les chatbots génèrent souvent des affirmations factuellement fausses, ce qui fait qu'il est soit extrêmement effronté, soit remarquablement paresseux de fonder une enquête ténue sur une opinion subjective délibérément demandée.

Le choix est d'autant plus étonnant qu'un service - Copilot de Microsoft - semble faussement accusé. L'enquête de Bailey s'appuie sur un article de blog d'un site web conservateur qui a posé la question du classement à six chatbots, dont les quatre ci-dessus, plus Grok de X et le LLM chinois DeepSeek. (Comme le note Techdirt, le site lui-même affirme que Copilot a refusé de produire un classement, ce qui n'a pas empêché Bailey de demander une explication au PDG de Microsoft, Satya Nadella, pour avoir prétendument désavantagé Trump.

On pourrait penser que quelqu'un dans le bureau de Bailey aurait remarqué cet écart, car chacune des quatre lettres affirme que seuls trois chatbots "ont classé le président Donald Trump en dernière position".

Par ailleurs, M. Bailey affirme que la "censure du président Trump par les grandes entreprises technologiques" (encore une fois, en le classant dernier) devrait priver les entreprises de la "sphère de sécurité" de l'immunité accordée aux éditeurs neutres en vertu de la loi fédérale. Cela fait vraisemblablement référence à la section 230 du Communications Decency Act, filtrée par une théorie juridique douteuse qui circule depuis des années.

Vous vous souvenez peut-être de M. Bailey en raison de son enquête bloquée sur Media Matters, qui accusait la société X d'Elon Musk de placer des publicités à côté de contenus pro-nazis. Il est fort possible que cette enquête n'aboutisse à rien non plus. Alors que des questions tout à fait raisonnables se posent sur la responsabilité juridique d'un chatbot pour la diffusion de faussetés diffamatoires ou sur les questions subjectives auxquelles il devrait répondre, cette initiative - même en tant que coup de publicité favorable à Trump - est une tentative manifeste d'intimider des entreprises privées pour avoir insuffisamment flatté un politicien, sous la direction d'un procureur général dont la compréhension des faits semble plus faible que celle d'un chatbot.