Juge critique les avocats pour une recherche en IA bidon

Un juge sanctionne des cabinets d'avocats pour avoir utilisé l'IA sans le déclarer

Dans une récente décision, le juge californien Michael Wilner a infligé une amende conséquente de 31 000 dollars à deux cabinets d'avocats de renom pour avoir secrètement eu recours à l'intelligence artificielle lors d'un procès civil. Selon le juge Wilner, les cabinets ont soumis un mémoire rempli de « citations et références juridiques fausses, inexactes et trompeuses ». Comme l'ont rapporté les professeurs de droit Eric Goldman et Blake Reid sur Bluesky, le juge a exprimé sa frustration face à ce qu'il a considéré comme un mépris irresponsable des normes professionnelles.

« J'avais confiance en le mémoire que j'ai lu », a écrit le juge Wilner dans sa décision. « J'étais convaincu par les autorités qu'ils citaient, alors j'ai approfondi pour examiner ces affaires moi-même. Mais elles n'existaient pas. C'était terrifiant. J'ai failli signer un ordre judiciaire basé sur de fausses informations. »

Selon les documents judiciaires, les problèmes ont commencé lorsque l'équipe juridique du plaignant a engagé un outil d'IA pour élaborer un plan pour un mémoire supplémentaire. Ce plan, cependant, était truffé de contenu fabriqué lorsqu'il a été transmis à K&L Gates, un autre cabinet d'avocats impliqué dans l'affaire. Malheureusement, aucun des deux cabinets n'a pris la peine de vérifier ou de valider les informations avant de les soumettre.

Le juge Wilner a découvert que « au moins deux des autorités citées étaient totalement inexistantes ». Lorsqu'on leur a demandé des éclaircissements, K&L Gates a resoumis le mémoire, mais le juge a découvert encore plus de références fabriquées. En réponse, il a émis une injonction de justification, incitant les deux parties à admettre la vérité sous serment. L'avocat responsable de la création du plan initial a avoué avoir utilisé Google Gemini et des outils de recherche juridique comme Westlaw Precision avec CoCounsel.

Un schéma d'utilisation abusive

Ce n'est pas la première fois que des avocats se retrouvent dans l'embarras à cause d'une mauvaise utilisation de l'IA. L'ancien avocat de Trump, Michael Cohen, avait une fois cité des affaires judiciaires inexistantes après avoir considéré à tort Google Gemini, alors connu sous le nom de Bard, comme un moteur de recherche classique. De même, un juge en Colombie a constaté que des avocats poursuivant une compagnie aérienne avaient parsemé leur mémoire de cas fictifs générés par ChatGPT.

« Cet épisode entier a été rien moins qu'alarmant », a conclu le juge Wilner. « La décision initiale de s'appuyer sur l'IA sans le déclarer était inacceptable. Envoyer un matériel aussi défectueux à d'autres professionnels sans les avertir de son origine douteuse a mis tout le monde en danger. »

Les implications plus larges

La décision met en lumière une préoccupation croissante parmi les professionnels du droit concernant les implications éthiques de l'utilisation de l'IA dans les dépôts judiciaires. Bien que les outils d'IA promettent efficacité et précision, ils comportent également le risque de propager des informations erronées s'ils ne sont pas correctement vérifiés. Comme l'a souligné le juge Wilner, « Aucun avocat raisonnablement compétent ne devrait externaliser ses recherches ou sa rédaction à un algorithme sans vérifier ses résultats. »

Cette affaire sert de rappel frappant de l'importance de la transparence et de la responsabilité dans la pratique juridique. Alors que l'IA continue d'évoluer, il reste crucial pour les praticiens de faire preuve de prudence, en veillant à ce que la technologie renforce, et non compromette, l'intégrité du système judiciaire.