Las herramientas de IA agilizan la respuesta del gobierno, pero los expertos advierten sobre los riesgos

Una herramienta de IA está diseñada para examinar grandes cantidades de respuestas a consultas gubernamentales e interpretar con precisión la opinión pública.

El secretario de Tecnología del Reino Unido, Peter Kyle, declaró: «Nadie debería perder tiempo en tareas que la IA puede realizar de forma más rápida y eficaz, ni se deberían gastar millones de fondos públicos en subcontratar ese trabajo a empresas externas.

Esta herramienta digital, acertadamente denominada «Consult», ha superado con éxito su primera prueba importante con el Gobierno escocés.

El Gobierno escocés le asignó a Consult una tarea inicial desafiante: analizar los comentarios del público sobre la regulación de los procedimientos cosméticos no quirúrgicos, como los rellenos labiales y la depilación láser. Los resultados de la IA coincidieron en gran medida con el análisis compilado por los funcionarios humanos.

El Gobierno tiene ahora previsto implementar esta tecnología en varios departamentos. El proceso manual actual es costoso y lento, y a menudo se pagan millones de libras a contratistas externos solo para analizar la opinión pública.

Consult forma parte de una iniciativa más amplia para crear un Gobierno británico más eficiente y receptivo, capaz de llevar a cabo su «Plan para el cambio» sin costes excesivos ni retrasos.

Entonces, ¿cómo funcionó en Escocia? Consult procesó más de 2000 respuestas. Utilizando IA generativa, identificó los temas y preocupaciones clave que surgían de los comentarios en seis preguntas centrales.

Por supuesto, Consult no funcionó de forma totalmente autónoma. Los expertos del Gobierno escocés revisaron y perfeccionaron estos temas iniciales. A continuación, la IA clasificó las respuestas individuales en consecuencia, lo que permitió a los funcionarios centrarse en interpretar los resultados y sus implicaciones políticas.

Dado que se trataba de la primera implementación en vivo de Consult, el Gobierno escocés también revisó manualmente cada una de las respuestas para su verificación. La interpretación de los comentarios escritos y su categorización puede ser subjetiva; incluso los analistas humanos no siempre están de acuerdo.

Al comparar el trabajo de Consult con el análisis humano, la IA fue correcta en la gran mayoría de los casos. Las pequeñas discrepancias no alteraron la comprensión general de las principales preocupaciones del público.

Consult es un componente de un paquete de IA más amplio llamado «Humphrey», un conjunto de herramientas digitales diseñadas para reducir la carga administrativa de los funcionarios y recortar los costes de los contratistas. Esta iniciativa respalda una visión más amplia de utilizar la tecnología para agilizar los servicios públicos, con el objetivo de ahorrar 45 000 millones de libras esterlinas en productividad para lograr un gobierno más ágil.

«Tras demostrar unos resultados tan prometedores, Humphrey nos ayudará a reducir los costes de la gobernanza y a mejorar nuestra capacidad para recopilar y revisar exhaustivamente las aportaciones de los expertos y el público sobre cuestiones cruciales», añadió Kyle.

«El Gobierno escocés ha dado un primer paso audaz. Muy pronto, utilizaré Consult dentro de Humphrey en mi propio departamento, y otros departamentos de Whitehall seguirán mi ejemplo, lo que acelerará nuestro trabajo para llevar a cabo el Plan para el Cambio».

En Escocia, la ministra de Salud Pública, Jenni Minto, afirmó: «La herramienta fue muy útil para ayudar al Gobierno escocés a comprender más rápidamente lo que la gente quería comunicar y el espectro de sus opiniones.

El uso de esta herramienta nos ha permitido avanzar más rápidamente para centrarnos en cuestiones políticas y profundizar en los detalles de las pruebas, sin dejar de estar seguros de que hemos captado las opiniones firmes expresadas por los encuestados».

Naturalmente, como ocurre con muchos proyectos gubernamentales de IA, se trata de una fase inicial y Consult sigue en fase de prueba oficial. Se prevén más análisis y pruebas para garantizar su fiabilidad antes de tomar cualquier decisión sobre su implantación a gran escala.

Sin embargo, el potencial es significativo. Dado que el gobierno realiza alrededor de 500 consultas al año, Consult podría ahorrar unos 75 000 días de trabajo de análisis al año si tiene éxito.

¿Cuál fue la reacción de los funcionarios que lo utilizaron? Según se informa, se mostraron «agradablemente sorprendidos» y consideraron que el análisis inicial de la IA era un «punto de partida útil». Otros lo elogiaron por ahorrar «una enorme cantidad de tiempo» y permitirles «llegar al análisis y determinar los siguientes pasos» mucho más rápido.

Curiosamente, algunos funcionarios consideraron que Consult introducía un nuevo nivel de imparcialidad. Uno de ellos señaló que su uso «reduce el sesgo y aumenta la coherencia», evitando que los analistas individuales dejen que sus «propias ideas preconcebidas» influyan en los resultados.

Algunas consultas reciben decenas o incluso cientos de miles de respuestas. Dado el prometedor rendimiento inicial de Consult, su aplicación a estos ejercicios a gran escala puede no estar muy lejos.

Es importante señalar que la supervisión humana sigue siendo fundamental. Consult está diseñado para que los expertos participen en todas las etapas. Los funcionarios siempre revisarán los temas y las categorizaciones sugeridos por la IA, utilizando un panel interactivo para filtrar y buscar información específica. El objetivo es que la IA se encargue del trabajo pesado, permitiendo a los humanos centrarse en el pensamiento estratégico.

Los expertos instan a la precaución en el uso de la IA en el gobierno

Este cambio hacia la IA en el sector público está siendo seguido de cerca por los expertos.

Stuart Harvey, director ejecutivo de Datactics, comentó: «El uso de la IA para acelerar las consultas públicas es un excelente ejemplo de cómo la tecnología puede aumentar la eficiencia y ahorrar dinero. Sin embargo, la IA solo es tan fiable como los datos en los que se basa. Para que estas herramientas funcionen bien y de forma justa, los departamentos gubernamentales deben garantizar que sus datos sean precisos, actuales y estén gestionados adecuadamente.

«La confianza del público en las decisiones basadas en la IA es esencial. Esto requiere procesos transparentes, bien gestionados y éticos. La mala calidad o gestión de los datos puede dar lugar a resultados sesgados o poco fiables.

A medida que el gobierno amplía el uso de la IA en los servicios públicos, es fundamental invertir en prácticas de datos sólidas. Esto incluye establecer sistemas de datos claros, garantizar que los datos sean accesibles para su revisión y mantener la participación humana en las decisiones clave, especialmente a la hora de evaluar la opinión pública».

Los académicos comparten esta perspectiva. El profesor Michael Rovatsos, de la Universidad de Edimburgo, reconoce los beneficios, pero también advierte con sensatez sobre riesgos como el sesgo de la IA y la posible manipulación. Aboga por fuertes salvaguardias y una inversión continua para garantizar que cualquier herramienta de IA utilizada por el gobierno siga siendo fiable y justa.

Stuart Munton, director de operaciones del grupo AND Digital, añadió: «El uso de la IA por parte del gobierno para agilizar las consultas públicas es un paso positivo hacia unos servicios más inteligentes y eficientes. Sin embargo, a medida que crece la adopción de la IA, debemos asegurarnos de que las personas, y no solo la tecnología, sigan siendo el centro de esta transformación.

«Herramientas como esta solo alcanzarán su máximo potencial si invertimos en dotar a los equipos del sector público de las habilidades y la formación adecuadas. Capacitar a una plantilla diversa para utilizar la IA mejorará el rendimiento de la herramienta y garantizará que la innovación se ajuste a las necesidades del mundo real».

Si se implementan correctamente teniendo en cuenta estas consideraciones de los expertos, las herramientas de IA como Consult podrían mejorar fundamentalmente la forma en que los gobiernos escuchan, aprenden y formulan políticas basadas en las aportaciones del público. El Gobierno del Reino Unido está actuando con rapidez, con planes para integrar Consult en varios departamentos antes de que finalice 2025.

Véase también: Estados Unidos suspende la norma de difusión de la IA y endurece los controles de exportación de chips

¿Quiere saber más sobre la IA y el big data de la mano de los líderes del sector? Eche un vistazo a la AI & Big Data Expo que se celebra en Ámsterdam, California y Londres. Este completo evento se celebra conjuntamente con otros eventos destacados, como la Intelligent Automation Conference, BlockX, Digital Transformation Week y la Cyber Security & Cloud Expo.

Explore aquí otros eventos y seminarios web sobre tecnología empresarial que se celebrarán próximamente y que están impulsados por TechForge.