A IA agênica no governo enfrenta uma questão delicada: o que as máquinas devem ter permissão para decidir?

Os Emirados Árabes Unidos têm sido pioneiros na adoção da inteligência artificial há nove anos. O país lançou uma estratégia nacional de IA em outubro de 2017 e, logo em seguida, criou um cargo ministerial para supervisioná-la, nomeando Omar Sultan Al Olama como o primeiro Ministro de Estado para a Inteligência Artificial do mundo, aos 27 anos. Desde então, o país desenvolveu infraestrutura de identidade digital, nuvem soberana e compartilhamento de dados que a maioria dos governos ainda está em processo de aquisição. O verdadeiro teste da IA autônoma no governo é se essa vantagem inicial se traduz em resultados tangíveis.

Essa fase de testes teve início neste mês, com mais de 100 funcionários federais participando de um workshop para dar início à vertente estratégica do projeto de IA agentiva dos Emirados Árabes Unidos. Essa iniciativa nacional visa fazer a transição de metade de todas as operações, serviços e tarefas do governo federal para modelos de IA agentiva dentro de dois anos. Organizada pelo Comitê Nacional para o Projeto de IA Agênica, a sessão estabeleceu prioridades e cronogramas de implementação, ao mesmo tempo em que deu início ao desenvolvimento de estruturas para determinar quais tarefas governamentais podem ser delegadas a agentes de IA.

Esse processo de classificação é fundamental. Os Emirados Árabes Unidos possuem o poder de computação e a infraestrutura necessários, incluindo um sistema de desempenho proativo baseado em IA que monitora mais de 150 milhões de pontos de dados mensalmente. No entanto, nenhum governo publicou ainda um método defensável para distinguir entre tarefas que um sistema autônomo pode executar de forma independente e aquelas que ele deve apenas recomendar.

Huda Al Hashimi, vice-ministra de Assuntos do Gabinete para Assuntos Estratégicos, descreveu o workshop como o início operacional da implantação de modelos de IA em todas as atividades governamentais. O programa abrange sete pilares: estratégia e projetos, previsão e inteligência estratégica, políticas, estruturas e governança, desempenho governamental, competitividade global e inovação no trabalho governamental. As autoridades também discutiram métricas de desempenho e estratégias para evitar a duplicação de esforços entre as entidades.

Duas abordagens para o mesmo projeto

O workshop foi orientado por um princípio central: os seres humanos lideram, a IA possibilita.

Refletindo sobre a apresentação do projeto, o xeque Mohammed bin Rashid Al Maktoum afirmou que os Emirados Árabes Unidos seriam “o primeiro governo do mundo a implantar amplamente modelos de IA agentiva” em todos os seus setores e operações. Ele descreveu sistemas capazes de gerenciar operações e executar ações independentes sem intervenção humana. Enquanto a linguagem fundamental enfatiza a execução autônoma, a linguagem de implementação enfoca a primazia humana.

Ambas as perspectivas podem coexistir em um portfólio de milhares de tarefas, e a lacuna entre elas é precisamente o que as estruturas de classificação visam preencher. No entanto, até que essas estruturas sejam publicadas, a questão da responsabilização pelas decisões de um agente permanece sem solução. Os materiais divulgados até o momento abrangem pilares, treinamento, indicadores e estruturas de governança, mas não abordam o que acontece quando um sistema autônomo comete um erro no caso de um cidadão nem a quem recai a responsabilidade.

Essa não é uma crítica exclusiva aos Emirados Árabes Unidos. Nenhum governo respondeu a essa questão porque nenhum governo a enfrentou antes. A diferença é que os Emirados Árabes Unidos serão os primeiros a respondê-la em grande escala, dentro de um prazo de dois anos.

A escala é o ponto-chave

A supervisão está a cargo do xeque Mansour bin Zayed Al Nahyan, com uma força-tarefa presidida por Mohammad Al Gergawi, ministro de Assuntos do Gabinete. Em maio, o Gabinete aprovou o primeiro pacote de serviços governamentais a utilizar ferramentas de IA autônoma, juntamente com o maior programa de treinamento da história do governo dos Emirados Árabes Unidos, abrangendo 80.000 funcionários federais, desde ministros até novos contratados. Uma política nacional de IA na área da saúde também foi aprovada durante a mesma sessão, juntamente com estruturas que tornam os registros digitais a fonte oficial dos principais dados do governo e exigem que as informações sejam coletadas uma única vez e compartilhadas com segurança entre as entidades.

Desde então, o ritmo tem sido deliberado. Um evento de treinamento realizado em Dubai em junho atraiu mais de 300 participantes de 50 instituições federais, com o objetivo de identificar serviços e procedimentos adequados para a IA agentiva em até 90 dias. Um workshop separado naquele mês, organizado pela Corte Presidencial e pelo Ministério de Assuntos do Gabinete, treinou 600 funcionários sobre o mesmo conteúdo.

Por que a IA agentiva no governo vai além do Golfo

Governos na Ásia e na Europa estão abordando a mesma decisão a partir de um ponto de partida semelhante, sendo que a maioria possui uma estratégia de IA e um órgão nacional, mas sem metas específicas. Os Emirados Árabes Unidos estabeleceram números e prazos específicos, o que significa que, em dois anos, haverá evidências públicas sobre o impacto real da IA agente na prestação de serviços, no quadro de funcionários e nas taxas de erro.

Ninguém mais é obrigado a realizar esse experimento no momento. No entanto, eles devem decidir como usar os resultados e se estão dispostos a seguir em frente antes que esses resultados estejam disponíveis.

As estruturas de classificação de tarefas são os documentos a serem acompanhados. Quando publicadas, elas representarão a primeira tentativa séria de qualquer Estado de definir quais decisões um governo está disposto a delegar às máquinas. Todo o restante deste programa envolve aquisições e treinamento, que são procedimentos padrão.

Veja também: Presidente da OpenAI insta empresas a acelerarem as defesas de segurança contra IA

Quer saber mais sobre IA e big data com os líderes do setor? Confira a AI & Big Data Expo, que acontecerá em Amsterdã, Califórnia e Londres. O evento abrangente faz parte da TechEx e é realizado em conjunto com outros eventos de tecnologia de ponta, incluindo a Cyber Security & Cloud Expo. Clique aqui para mais informações.

O AI News é apresentado pela TechForge Media. Explore aqui outros eventos e webinars de tecnologia empresarial que estão por vir.