La IA agentiva en la administración pública se enfrenta a una difícil pregunta: ¿qué se les debería permitir decidir a las máquinas?

Los Emiratos Árabes Unidos han sido pioneros en la adopción de la inteligencia artificial desde hace nueve años. En octubre de 2017 pusieron en marcha una estrategia nacional de IA y, poco después, crearon un cargo ministerial para supervisarla, nombrando a Omar Sultan Al Olama, de 27 años, como el primer ministro de Estado para la Inteligencia Artificial del mundo. Desde entonces, el país ha desarrollado una identidad digital, una nube soberana y una infraestructura para el intercambio de datos que la mayoría de los gobiernos aún están en proceso de adquirir. La verdadera prueba de la IA agentiva en la administración pública es si esta ventaja inicial se traduce en resultados tangibles.

Esta fase de pruebas comenzó este mes, con la participación de más de 100 funcionarios federales en un taller para poner en marcha la vía estratégica del proyecto de IA agentiva de los EAU. Esta iniciativa nacional tiene como objetivo trasladar la mitad de todas las operaciones, servicios y tareas del Gobierno federal a modelos de IA agentiva en un plazo de dos años. Organizada por el Comité Nacional para el Proyecto de IA Agente, la sesión estableció las prioridades y los plazos de implementación, al tiempo que puso en marcha el desarrollo de marcos para determinar qué tareas gubernamentales pueden delegarse a agentes de IA.

Este proceso de clasificación es fundamental. Los EAU cuentan con la potencia de cálculo y la infraestructura necesarias, incluido un sistema de rendimiento proactivo impulsado por IA que supervisa más de 150 millones de puntos de datos al mes. Sin embargo, ningún gobierno ha publicado aún un método defendible para distinguir entre las tareas que un sistema autónomo puede ejecutar de forma independiente y aquellas que solo debe recomendar.

Huda Al Hashimi, viceministra de Asuntos del Gabinete para Asuntos Estratégicos, describió el taller como el inicio operativo del despliegue de modelos de IA en todas las actividades gubernamentales. El programa se articula en torno a siete pilares: estrategia y proyectos, prospectiva e inteligencia estratégica, políticas, estructuras y gobernanza, rendimiento gubernamental, competitividad global e innovación en la labor gubernamental. Los funcionarios también debatieron sobre los indicadores de rendimiento y las estrategias para evitar la duplicación de esfuerzos entre las distintas entidades.

Dos enfoques del mismo proyecto

El taller se guió por un principio fundamental: los humanos lideran, la IA facilita.

Al reflexionar sobre la presentación del proyecto, el jeque Mohammed bin Rashid Al Maktoum afirmó que los Emiratos Árabes Unidos serían «el primer gobierno del mundo en implementar de forma generalizada modelos de IA agentiva» en todos sus sectores y operaciones. Describió sistemas capaces de gestionar operaciones y ejecutar acciones independientes sin intervención humana. Mientras que el lenguaje fundamental hace hincapié en la ejecución autónoma, el lenguaje de implementación se centra en la primacía humana.

Ambas perspectivas pueden coexistir en una cartera de miles de tareas, y la brecha entre ellas es precisamente lo que los marcos de clasificación pretenden salvar. Sin embargo, hasta que se publiquen estos marcos, la cuestión de la responsabilidad por las decisiones de un agente sigue sin resolverse. Los materiales publicados hasta la fecha abarcan los pilares, la formación, los indicadores y las estructuras de gobernanza, pero no abordan qué ocurre cuando un sistema autónomo comete un error en el caso de un ciudadano ni a quién recae la responsabilidad.

No se trata de una crítica exclusiva a los EAU. Ningún gobierno ha respondido a esta pregunta porque ningún gobierno se ha enfrentado a ella antes. La diferencia es que los EAU serán los primeros en responderla a gran escala, en un plazo de dos años.

La escala es la clave

La supervisión recae en el jeque Mansour bin Zayed Al Nahyan, con un grupo de trabajo presidido por Mohammad Al Gergawi, ministro de Asuntos del Gabinete. En mayo, el Consejo de Ministros aprobó el primer paquete de servicios públicos que utilizará herramientas de IA agentiva, junto con el mayor programa de formación de la historia del Gobierno de los EAU, que abarca a 80 000 empleados federales, desde ministros hasta nuevos contratados. Durante la misma sesión también se aprobó una política nacional de IA para la sanidad, junto con marcos normativos que establecen los registros digitales como fuente oficial de los datos gubernamentales fundamentales y exigen que la información se recopile una sola vez y se comparta de forma segura entre las distintas entidades.

Desde entonces, el ritmo ha sido mesurado. Un evento de formación celebrado en Dubái en junio atrajo a más de 300 participantes de 50 instituciones federales, con el objetivo de identificar los servicios y procedimientos adecuados para la IA agentiva en un plazo de 90 días. Ese mismo mes, un taller independiente, organizado por la Corte Presidencial y el Ministerio de Asuntos del Gabinete, formó a 600 miembros del personal sobre el mismo tema.

Por qué la IA agentiva en la administración pública trasciende el Golfo

Los gobiernos de Asia y Europa están abordando la misma decisión partiendo de un punto de partida similar: la mayoría cuenta con una estrategia de IA y un organismo nacional, pero carece de objetivos específicos. Los EAU han fijado cifras y fechas concretas, lo que significa que, en un plazo de dos años, habrá datos públicos sobre el impacto real de la IA agente en la prestación de servicios, la plantilla y las tasas de error.

Nadie más está obligado a llevar a cabo este experimento por el momento. Sin embargo, deben decidir cómo utilizar los resultados y si están dispuestos a seguir adelante antes de que dichos resultados estén disponibles.

Los marcos de clasificación de tareas son los documentos a tener en cuenta. Cuando se publiquen, representarán el primer intento serio por parte de cualquier Estado de definir qué decisiones está dispuesto a delegar un gobierno a las máquinas. Todo lo demás en este programa tiene que ver con la contratación pública y la formación, que son procedimientos estándar.

Véase también: El presidente de OpenAI insta a las empresas a acelerar las defensas de seguridad en materia de IA

¿Quieres saber más sobre la IA y el big data de la mano de líderes del sector? Echa un vistazo a la AI & Big Data Expo, que tendrá lugar en Ámsterdam, California y Londres. Este evento integral forma parte de TechEx y se celebra conjuntamente con otros eventos tecnológicos destacados, como la Cyber Security & Cloud Expo. Haz clic aquí para obtener más información.

AI News es una iniciativa de TechForge Media. Descubre aquí otros próximos eventos y seminarios web sobre tecnología empresarial.