Información errónea con IA identificada como el riesgo global superior

A medida que nos acercamos a un período en el que numerosos países se están preparando para las elecciones en los próximos dos años, la amenaza de desinformación y desinformación, turboalimentada por la inteligencia artificial (IA), se considera grande como el riesgo global más crítico. Esta preocupación está subrayada por el Informe de Riesgos Globales del Foro Económico Mundial (WEF) 2024, que destaca que el entrelazamiento de la información falsificada con disturbios sociales estará a la vanguardia, especialmente con las principales economías que celebran elecciones.

En medio de crecientes ansiedades sobre el costo de vida, los riesgos asociados con la información errónea alimentada con AI eclipsan a otras preocupaciones este año. Según el WEF, la información errónea y la desinformación encabezarán la lista de riesgos globales, seguidos de cerca por eventos meteorológicos extremos y polarización social. El informe también enumera la inseguridad cibernética y el conflicto armado interestatal entre los cinco riesgos principales.

Variaciones regionales en la percepción del riesgo

Si bien la información errónea y la desinformación se considera el riesgo principal en la India, ocupa el sexto lugar en los Estados Unidos y el octavo en la Unión Europea. El WEF señala que la aceleración rápida en las capacidades de la información manipulada, impulsada por un fácil acceso a tecnologías sofisticadas y una disminución de la confianza hacia la información e instituciones, está exacerbando la situación.

El impacto del contenido sintético

En los próximos años, se espera que una variedad de actores exploten el aumento en el contenido sintético, intensificando aún más las divisiones sociales, la violencia ideológica y la represión política. Con casi tres mil millones de personas que votarán en países como India, Indonesia, Estados Unidos y el Reino Unido, la difusión generalizada de la información errónea podría poner en peligro la legitimidad de los gobiernos recién elegidos.

La facilidad de acceder a las herramientas de IA fácil de usar ya ha llevado a un auge de la información falsificada y el contenido "sintético", como la clonación de voz avanzada y los sitios web falsos. El WEF advierte que este contenido sintético manipulará a las personas, dañará las economías y fracturará a las sociedades de numerosas maneras en los próximos dos años, potencialmente utilizada para diversos fines, desde el activismo climático hasta los conflictos crecientes.

Amenazas emergentes y respuestas regulatorias

También están en aumento los nuevos tipos de delitos, como la pornografía de Deepfake no consensuado y la manipulación del mercado de valores. El WEF advierte que estos problemas podrían conducir a protestas violentas, crímenes de odio, conflictos civiles y terrorismo.

En respuesta, algunos países ya están implementando nuevas regulaciones dirigidas tanto a los anfitriones como a los creadores de contenido en línea e ilegal. La regulación naciente de la IA generativa, como el requisito de China para el contenido generado por la IA de agua, puede ayudar a identificar información falsa, incluida la información errónea involuntaria del contenido generado por IA. Sin embargo, el WEF señala que es poco probable que el ritmo de la regulación se mantenga al día con el rápido desarrollo de la tecnología.

Los avances tecnológicos recientes han aumentado el volumen, el alcance y la efectividad de la información falsificada, lo que dificulta rastrear, atribuir y controlar. Las plataformas de redes sociales, encargadas de mantener la integridad, pueden verse abrumadas por múltiples campañas superpuestas. Además, la desinformación se está volviendo cada vez más personalizada y dirigida, a menudo extendida a través de plataformas de mensajería menos transparentes como WhatsApp o WeChat.

Desafíos para distinguir contenido generado por IA

El WEF también destaca la creciente dificultad para distinguir entre contenido generado por IA y generado por humanos, incluso para sistemas de detección sofisticados e individuos expertos en tecnología. Sin embargo, algunos países están tomando medidas para abordar este desafío.

La iniciativa de Singapur para combatir los profundos

Singapur ha anunciado una inversión SG $ 20 millones ($ 15.04 millones) en un programa de investigación de seguridad y fideicomiso en línea, que incluye establecer un centro para desarrollar herramientas para combatir el contenido en línea dañino. Dirigido por el Ministerio de Comunicaciones e Información (MCI), esta iniciativa se ejecutará hasta 2028.

El Centro de Tecnologías Avanzadas en Seguridad en línea, programado para lanzarse en la primera mitad de 2024, tiene como objetivo reunir a investigadores y organizaciones para crear un ecosistema robusto para un Internet más seguro. El Centro se centrará en desarrollar y personalizar herramientas para detectar contenido dañino, como defectos profundos y reclamos falsos, y también trabajará en identificar vulnerabilidades sociales y desarrollar intervenciones para reducir la susceptibilidad a contenido dañino.

MCI ya se ha involucrado con más de 100 profesionales de la academia y los sectores público y privado, con 30 participantes directamente involucrados en el trabajo del centro. Las herramientas desarrolladas serán probadas y propuestas para su adopción, con el objetivo de mejorar la confianza digital a través de tecnologías como la marca de agua y la autenticación de contenido.

Las implicaciones más amplias de la información errónea

El WEF advierte que si se queda sin control, la información errónea podría conducir a dos escenarios contrastantes. Por un lado, algunos gobiernos y plataformas podrían priorizar la libertad de expresión y las libertades civiles, potencialmente no frenar la información falsificada de manera efectiva, lo que lleva a una definición contenciosa de 'verdad' en todas las sociedades. Esto podría ser explotado por actores estatales y no estatales para profundizar las divisiones sociales, socavar la confianza pública en las instituciones políticas y amenazar la cohesión nacional.

Por otro lado, en respuesta a la propagación de la información errónea, algunos países podrían recurrir a un mayor control sobre la información, arriesgando la propaganda nacional y la censura. A medida que el concepto de verdad se ve socavado, los gobiernos pueden obtener más poder para controlar la información en función de su definición de 'verdad', lo que puede conducir a una represión más amplia de los flujos de información y una mayor erosión de las libertades de acceso a Internet, prensa e información.