Ferramentas de IA aceleram o feedback do governo, mas especialistas alertam para os riscos

Uma ferramenta de IA foi projetada para analisar grandes quantidades de respostas a consultas governamentais e interpretar com precisão a opinião pública.

O secretário de Tecnologia do Reino Unido, Peter Kyle, afirmou: “Ninguém deve perder tempo com tarefas que a IA pode realizar de forma mais rápida e eficaz, nem se deve gastar milhões em dinheiro dos contribuintes para terceirizar esse trabalho a prestadores de serviços externos.

Essa ferramenta digital, apropriadamente chamada de “Consult”, passou com sucesso em seu primeiro grande teste com o governo escocês.

O governo escocês deu à Consult uma tarefa inicial desafiadora: analisar o feedback do público sobre a regulamentação de procedimentos cosméticos não cirúrgicos, como preenchimento labial e depilação a laser. As conclusões da IA corresponderam de perto à análise compilada por funcionários humanos.

O governo agora planeja implantar essa tecnologia em vários departamentos. O processo manual atual é caro e lento, com milhões de libras frequentemente pagas a prestadores de serviços externos apenas para analisar a opinião pública.

O Consult faz parte de uma iniciativa mais ampla para criar um governo britânico mais eficiente e responsivo, capaz de cumprir seu “Plano para Mudança” sem custos excessivos ou atrasos.

Então, como foi o desempenho na Escócia? A Consult processou mais de 2.000 respostas. Usando IA generativa, identificou temas e preocupações importantes que surgiram a partir do feedback em seis perguntas centrais.

É claro que a Consult não operou de forma totalmente autônoma. Especialistas do governo escocês revisaram e refinaram esses temas iniciais. A IA então categorizou as respostas individuais de acordo com isso, liberando os funcionários para se concentrarem na interpretação dos resultados e suas implicações políticas.

Como essa foi a primeira implantação ao vivo da Consult, o governo escocês também revisou manualmente cada resposta para verificação. Interpretar comentários escritos e categorizá-los pode ser subjetivo; mesmo analistas humanos nem sempre concordam.

Ao comparar o trabalho da Consult com a análise humana, a IA estava correta na grande maioria das vezes. Pequenas discrepâncias não alteraram a compreensão geral das principais preocupações do público.

O Consult é um componente de um pacote maior de IA chamado “Humphrey” — um conjunto de ferramentas digitais projetadas para reduzir a carga administrativa dos funcionários públicos e cortar custos com contratados. Esse esforço apoia uma visão mais ampla de usar a tecnologia para otimizar os serviços públicos, com a meta de economizar £ 45 bilhões em produtividade para um governo mais ágil.

“Depois de demonstrar resultados tão promissores, o Humphrey nos ajudará a reduzir os custos da governança e melhorar nossa capacidade de coletar e analisar minuciosamente as contribuições de especialistas e do público sobre questões cruciais”, acrescentou Kyle.

“O governo escocês deu um primeiro passo ousado. Em breve, estarei usando o Consult dentro do Humphrey em meu próprio departamento, e outros departamentos de Whitehall seguirão o exemplo — acelerando nosso trabalho para entregar o Plano para Mudança.”

Na Escócia, a Ministra da Saúde Pública, Jenni Minto, disse: “A ferramenta foi muito útil para ajudar o governo escocês a compreender mais rapidamente o que as pessoas queriam comunicar e o espectro de suas opiniões.

“O uso dessa ferramenta nos permitiu avançar mais rapidamente para nos concentrarmos em questões políticas e nos aprofundarmos nos detalhes das evidências, mantendo a confiança de que captamos as opiniões fortes expressas pelos entrevistados.”

Naturalmente, como acontece com muitos projetos de IA do governo, este é um estágio inicial, e o Consult permanece em fase de testes oficiais. Análises e testes adicionais estão planejados para garantir sua confiabilidade antes de qualquer decisão sobre uma implementação em grande escala.

O potencial, no entanto, é significativo. Com o governo realizando cerca de 500 consultas anualmente, o Consult poderia economizar cerca de 75.000 dias de trabalho de análise por ano, se fosse bem-sucedido.

Qual foi a reação dos funcionários públicos que o utilizaram? Eles ficaram “agradavelmente surpresos”, considerando a análise inicial da IA um “ponto de partida útil”. Outros elogiaram o programa por economizar “uma quantidade enorme de tempo” e permitir que eles “chegassem à análise e determinassem os próximos passos” muito mais rapidamente.

Curiosamente, alguns funcionários sentiram que o Consult introduziu um novo nível de imparcialidade. Um deles observou que seu uso “reduz o viés e aumenta a consistência”, impedindo que analistas individuais deixem suas “próprias preconcepções” influenciarem os resultados.

Algumas consultas recebem dezenas ou até centenas de milhares de respostas. Dado o desempenho inicial promissor do Consult, sua aplicação a esses exercícios em grande escala pode não estar muito longe.

É importante observar que a supervisão humana continua sendo essencial. O Consult foi projetado para manter os especialistas envolvidos em todas as etapas. Os funcionários sempre revisarão os temas e categorizações sugeridos pela IA, usando um painel interativo para filtrar e pesquisar insights específicos. O objetivo é que a IA cuide do trabalho pesado, permitindo que os humanos se concentrem no pensamento estratégico.

Especialistas pedem cautela quanto ao uso da IA no governo

Essa mudança em direção à IA no setor público está sendo acompanhada de perto por especialistas.

Stuart Harvey, CEO da Datactics, comentou: “Usar a IA para acelerar as consultas públicas é um excelente exemplo de como a tecnologia aumenta a eficiência e economiza dinheiro. No entanto, a IA é tão confiável quanto os dados em que se baseia. Para que essas ferramentas funcionem bem e de forma justa, os departamentos governamentais devem garantir que seus dados sejam precisos, atuais e gerenciados adequadamente.

“A confiança do público nas decisões baseadas em IA é essencial. Isso requer processos transparentes, bem governados e éticos. A má qualidade ou gestão dos dados pode levar a resultados tendenciosos ou pouco confiáveis.

“À medida que o governo expande o uso da IA nos serviços públicos, é fundamental investir em práticas de dados robustas. Isso inclui estabelecer sistemas de dados claros, garantir que os dados estejam acessíveis para revisão e manter o envolvimento humano nas decisões importantes, especialmente ao avaliar a opinião pública.”

Os acadêmicos compartilham dessa perspectiva. O professor Michael Rovatsos, da Universidade de Edimburgo, reconhece os benefícios, mas também adverte sabiamente sobre riscos como o viés da IA e a possível manipulação. Ele defende salvaguardas fortes e investimentos contínuos para garantir que qualquer ferramenta de IA usada pelo governo permaneça confiável e justa.

Stuart Munton, chefe de operações do grupo AND Digital, acrescentou: “O uso da IA pelo governo para agilizar as consultas públicas é um passo positivo em direção a serviços mais inteligentes e eficientes. No entanto, à medida que a adoção da IA cresce, devemos garantir que as pessoas — e não apenas a tecnologia — continuem sendo o centro dessa transformação.

“Ferramentas como essa só atingirão seu pleno potencial se investirmos em equipar as equipes do setor público com as habilidades e o treinamento adequados. Capacitar uma força de trabalho diversificada para usar a IA melhorará o desempenho da ferramenta e garantirá que a inovação esteja alinhada com as necessidades do mundo real.”

Se implementadas corretamente, levando em consideração essas considerações de especialistas, ferramentas de IA como o Consult podem melhorar fundamentalmente a forma como os governos ouvem, aprendem e formulam políticas com base na opinião pública. O governo do Reino Unido está agindo rapidamente, com planos de integrar o Consult em vários departamentos até o final de 2025.

Veja também: EUA suspendem regra de difusão de IA e reforçam controles de exportação de chips

Quer saber mais sobre IA e big data com os líderes do setor? Confira a AI & Big Data Expo, que acontecerá em Amsterdã, Califórnia e Londres. Este evento abrangente é realizado em conjunto com outros eventos importantes, incluindo a Intelligent Automation Conference, BlockX, Digital Transformation Week e a Cyber Security & Cloud Expo.

Explore outros eventos e webinars de tecnologia empresarial que serão realizados em breve pela TechForge aqui.