Utilisation de l'IA dans les reportages sur la criminalité par la police: les pièges potentiels explorés

L'utilisation de chatbots IA par certains départements de police américains pour générer des rapports de crimes est une arme à double tranchant, promettant de l'efficacité mais semée d'embûches potentielles. Imaginez l'attrait de réduire le temps de rédaction des rapports à quelques secondes seulement, comme l'ont expérimenté les officiers de police d'Oklahoma City utilisant Draft One, un outil IA qui exploite le modèle GPT-4 d'OpenAI. Cela semble révolutionnaire, n'est-ce pas ? Mais comme pour tout bond technologique, des risques se cachent sous la surface.

Plongeons dans ce qui pourrait mal tourner avec cette approche axée sur la technologie. Pour commencer, les systèmes IA, comme ChatGPT, sont connus pour "halluciner", c'est-à-dire qu'ils peuvent générer des informations qui ne sont pas entièrement factuelles. Bien qu'Axon, l'entreprise derrière Draft One, affirme avoir atténué ce problème en ajustant le "cadran de créativité", peut-on vraiment être sûr que chaque rapport sera précis ? C'est un pari, et dans le monde de l'application de la loi, la précision est non négociable.

L'utilisation de Draft One est actuellement limitée aux incidents "mineurs" à Oklahoma City, sans traitement des crimes graves ou violents par l'IA. Mais d'autres départements, comme ceux de Fort Collins, Colorado, et de Lafayette, Indiana, repoussent les limites en l'utilisant pour tous les cas. Cela soulève une alerte : si l'IA est utilisée pour tous les cas, comment pouvons-nous garantir que la technologie ne compromet pas l'intégrité de ces rapports ?

Inquiétudes des experts

L'universitaire en droit Andrew Ferguson a exprimé des préoccupations concernant l'automatisation conduisant à une rédaction de rapports moins soignée par les officiers. C'est un point valable — s'appuyer sur la technologie pourrait nous rendre complaisants, et dans le domaine policier, chaque détail compte. De plus, il y a la question plus large des systèmes IA perpétuant les biais systémiques. Des recherches ont montré que les outils pilotés par l'IA, s'ils ne sont pas soigneusement gérés, peuvent aggraver la discrimination dans divers domaines, y compris le recrutement. Cela pourrait-il se produire dans l'application de la loi ?

Axon insiste sur le fait que chaque rapport généré par Draft One doit être examiné et approuvé par un officier humain, une garantie contre les erreurs et les biais. Mais cela laisse toujours place à l'erreur humaine, qui est déjà un problème connu dans la police. Et qu'en est-il de l'IA elle-même ? Les linguistes ont constaté que les grands modèles de langage comme GPT-4 peuvent incarner un racisme covert et perpétuer des préjugés dialectaux, en particulier avec des langues marginalisées comme l'anglais afro-américain. C'est une préoccupation sérieuse lorsqu'il s'agit d'assurer un maintien de l'ordre juste et impartial.

Tests et responsabilité

Axon a pris des mesures pour répondre à ces préoccupations, en menant des études internes pour tester les biais raciaux dans les rapports de Draft One. Ils n'ont trouvé aucune différence significative entre les rapports générés par l'IA et les transcriptions originales. Mais est-ce suffisant ? L'entreprise explore également l'utilisation de la vision par ordinateur pour résumer les images vidéo, bien que le PDG Rick Smith reconnaisse les sensibilités autour de la police et de la race, indiquant une approche prudente de cette technologie.

Malgré ces efforts, l'impact plus large de l'IA dans la police reste une interrogation. L'objectif d'Axon est de réduire de 50 % les décès liés aux armes à feu entre la police et les civils, mais les statistiques de la base de données sur les fusillades policières du Washington Post montrent une augmentation des homicides policiers depuis 2020, même avec l'adoption généralisée des caméras corporelles. Cela suggère que la technologie seule n'est pas la solution aux problèmes sociétaux complexes.

À mesure que davantage de départements de police envisagent d'adopter des outils comme Draft One, les avantages et les risques potentiels continueront d'être débattus. C'est une période fascinante, pleine de possibilités mais aussi d'incertitudes. La clé sera d'équilibrer l'innovation avec la responsabilité, en veillant à ce que l'IA améliore plutôt qu'elle ne compromette l'intégrité de l'application de la loi.