Uso de IA na reportagem de crimes pela polícia: possíveis armadilhas exploradas

O uso de chatbots de IA por alguns departamentos de polícia dos EUA para gerar relatórios de crimes é uma faca de dois gumes, prometendo eficiência, mas repleto de possíveis armadilhas. Imagine o atrativo de reduzir o tempo de redação de relatórios para meros segundos, como experimentado pelos policiais de Oklahoma City usando o Draft One, uma ferramenta de IA que utiliza o modelo GPT-4 da OpenAI. Parece revolucionário, não é? Mas, como em qualquer avanço tecnológico, há riscos à espreita sob a superfície.

Vamos mergulhar no que poderia dar errado com essa abordagem voltada para a tecnologia. Para começar, sistemas de IA, como o ChatGPT, são conhecidos por "alucinar", o que significa que podem gerar informações que não são inteiramente factuais. Embora a Axon, empresa por trás do Draft One, afirme ter mitigado esse problema ajustando o "dial de criatividade", podemos realmente confiar que todos os relatórios serão precisos? É uma aposta, e no mundo da aplicação da lei, a precisão é inegociável.

O uso do Draft One está atualmente limitado a incidentes "menores" em Oklahoma City, sem crimes graves ou violentos sendo processados pela IA. Mas outros departamentos, como os de Fort Collins, Colorado, e Lafayette, Indiana, estão expandindo os limites ao usá-lo de forma geral. Isso levanta uma bandeira vermelha: se a IA for usada para todos os casos, como podemos garantir que a tecnologia não comprometa a integridade desses relatórios?

Preocupações de Especialistas

O jurista Andrew Ferguson expressou preocupações sobre a automação levar a uma redação de relatórios menos cuidadosa por parte dos policiais. É um ponto válido — confiar na tecnologia pode nos tornar complacentes, e na polícia, cada detalhe importa. Além disso, há a questão mais ampla dos sistemas de IA perpetuarem vieses sistêmicos. Pesquisas mostraram que ferramentas baseadas em IA, se não forem cuidadosamente gerenciadas, podem agravar a discriminação em vários campos, incluindo contratações. Isso poderia acontecer na aplicação da lei?

A Axon insiste que cada relatório gerado pelo Draft One deve ser revisado e aprovado por um policial humano, uma salvaguarda contra erros e vieses. Mas isso ainda deixa espaço para erros humanos, que já são um problema conhecido na polícia. E quanto à própria IA? Linguistas descobriram que modelos de linguagem de grande escala, como o GPT-4, podem incorporar racismo implícito e perpetuar preconceitos contra dialetos, particularmente com línguas marginalizadas como o inglês afro-americano. Essa é uma preocupação séria quando se trata de garantir uma polícia justa e imparcial.

Testes e Responsabilidade

A Axon tomou medidas para abordar essas preocupações, conduzindo estudos internos para testar vieses raciais nos relatórios do Draft One. Eles não encontraram diferenças significativas entre os relatórios gerados por IA e as transcrições originais. Mas isso é suficiente? A empresa também está explorando o uso de visão computacional para resumir imagens de vídeo, embora o CEO Rick Smith reconheça as sensibilidades em torno da polícia e raça, indicando uma abordagem cautelosa para essa tecnologia.

Apesar desses esforços, o impacto mais amplo da IA na polícia permanece uma incógnita. O objetivo da Axon é reduzir as mortes relacionadas a armas entre policiais e civis em 50%, mas estatísticas do banco de dados de tiroteios policiais do Washington Post mostram um aumento nas mortes causadas por policiais desde 2020, mesmo com a adoção generalizada de câmeras corporais. Isso sugere que a tecnologia por si só não é a solução para questões sociais complexas.

À medida que mais departamentos de polícia consideram adotar ferramentas como o Draft One, os benefícios e riscos potenciais continuarão a ser debatidos. É um momento fascinante, cheio de possibilidades, mas também de incertezas. A chave será equilibrar inovação com responsabilidade, garantindo que a IA melhore, em vez de comprometer, a integridade da aplicação da lei.