Información errónea con IA identificada como el riesgo global superior

A medida que nos acercamos a un período en el que numerosos países se preparan para elecciones en los próximos dos años, la amenaza de la desinformación y la información falsa, potenciada por la inteligencia artificial (AI), se perfila como el riesgo global más crítico. Esta preocupación se ve subrayada por el Informe de Riesgos Globales 2024 del Foro Económico Mundial (WEF), que destaca que la interconexión de la información falsificada con el malestar social estará en primer plano, especialmente con las principales economías celebrando elecciones.

En medio de las crecientes ansiedades sobre el costo de vida, los riesgos asociados con la desinformación impulsada por AI están destinados a eclipsar otras preocupaciones este año. Según el WEF, la desinformación y la información falsa encabezarán la lista de riesgos globales, seguidas de cerca por eventos climáticos extremos y la polarización social. El informe también enumera la inseguridad cibernética y el conflicto armado interestatal entre los cinco principales riesgos.

Variaciones regionales en la percepción del riesgo

Mientras que la desinformación y la información falsa se consideran el principal riesgo en India, ocupan el sexto lugar en los EE. UU. y el octavo en la Unión Europea. El WEF señala que la rápida aceleración en las capacidades de la información manipulada, impulsada por el fácil acceso a tecnologías sofisticadas y una disminución en la confianza hacia la información y las instituciones, está exacerbando la situación.

El impacto del contenido sintético

Durante los próximos dos años, se espera que diversos actores exploten el aumento del contenido sintético, intensificando aún más las divisiones sociales, la violencia ideológica y la represión política. Con casi tres mil millones de personas listas para votar en países como India, Indonesia, los EE. UU. y el Reino Unido, la difusión generalizada de la desinformación podría poner en peligro la legitimidad de los gobiernos recién elegidos.

La facilidad de acceso a herramientas de AI amigables para el usuario ya ha llevado a un auge en la información falsificada y el contenido "sintético", como el clonado de voz avanzado y los sitios web falsos. El WEF advierte que este contenido sintético manipulará a los individuos, dañará las economías y fracturará las sociedades de numerosas maneras durante los próximos dos años, pudiendo ser utilizado para diversos propósitos, desde el activismo climático hasta la escalada de conflictos.

Amenazas emergentes y respuestas regulatorias

También están en aumento nuevos tipos de delitos, como la pornografía deepfake no consentida y la manipulación del mercado de valores. El WEF advierte que estos problemas podrían conducir a protestas violentas, delitos de odio, conflictos civiles y terrorismo.

En respuesta, algunos países ya están implementando nuevas regulaciones dirigidas tanto a los anfitriones como a los creadores de contenido en línea e ilegal. La regulación incipiente de la AI generativa, como el requisito de China de marcar con una marca de agua el contenido generado por AI, puede ayudar a identificar información falsa, incluida la desinformación no intencionada del contenido generado por AI. Sin embargo, el WEF señala que el ritmo de la regulación probablemente no seguirá el rápido desarrollo de la tecnología.

Los recientes avances tecnológicos han aumentado el volumen, el alcance y la efectividad de la información falsificada, haciendo más difícil su seguimiento, atribución y control. Las plataformas de redes sociales, encargadas de mantener la integridad, pueden verse abrumadas por múltiples campañas superpuestas. Además, la desinformación se está volviendo cada vez más personalizada y dirigida, a menudo difundida a través de plataformas de mensajería menos transparentes como WhatsApp o WeChat.

Desafíos para distinguir el contenido generado por AI

El WEF también destaca la creciente dificultad para distinguir entre el contenido generado por AI y el generado por humanos, incluso para sistemas de detección sofisticados y personas conocedoras de la tecnología. Sin embargo, algunos países están tomando medidas para abordar este desafío.

Iniciativa de Singapur para combatir los deepfakes

Singapur ha anunciado una inversión de SG$20 millones ($15.04m) en un programa de investigación de confianza y seguridad en línea, que incluye el establecimiento de un centro para desarrollar herramientas para combatir el contenido en línea perjudicial. Dirigido por el Ministerio de Comunicaciones e Información (MCI), esta iniciativa está programada para ejecutarse hasta 2028.

El Centro para Tecnologías Avanzadas en Seguridad en Línea, programado para lanzarse en la primera mitad de 2024, tiene como objetivo reunir a investigadores y organizaciones para crear un ecosistema robusto para un internet más seguro. El centro se centrará en desarrollar y personalizar herramientas para detectar contenido perjudicial, como deepfakes y afirmaciones falsas, y también trabajará en identificar vulnerabilidades sociales y desarrollar intervenciones para reducir la susceptibilidad al contenido perjudicial.

El MCI ya ha involucrado a más de 100 profesionales de la academia y los sectores público y privado, con 30 participantes directamente involucrados en el trabajo del centro. Las herramientas desarrolladas serán probadas y propuestas para su adopción, con el objetivo de mejorar la confianza digital a través de tecnologías como el marcado con agua y la autenticación de contenido.

Las implicaciones más amplias de la desinformación

El WEF advierte que, si no se controla, la desinformación podría llevar a dos escenarios contrastantes. Por un lado, algunos gobiernos y plataformas podrían priorizar la libertad de expresión y las libertades civiles, potencialmente fallando en frenar eficazmente la información falsificada, lo que conduciría a una definición controvertida de 'verdad' en las sociedades. Esto podría ser explotado por actores estatales y no estatales para profundizar las divisiones sociales, socavar la confianza pública en las instituciones políticas y amenazar la cohesión nacional.

Por otro lado, en respuesta a la propagación de la desinformación, algunos países podrían recurrir a un mayor control sobre la información, arriesgándose a la propaganda doméstica y la censura. A medida que el concepto de verdad se ve socavado, los gobiernos pueden obtener más poder para controlar la información basándose en su definición de 'verdad', lo que podría conducir a una represión más amplia de los flujos de información y una mayor erosión de las libertades de acceso a internet, prensa e información.