Une désinformation alimentée par AI identifiée comme un risque mondial supérieur

Alors que nous approchons d'une période où de nombreux pays se préparent pour les élections au cours des deux prochaines années, la menace de désinformation et de désinformation, turbocompressée par l'intelligence artificielle (IA), se profile comme le risque mondial le plus critique. Cette préoccupation est soulignée par le rapport Global Risks 2024 du Forum économique mondial (WEF), qui souligne que l'entrelacement des informations falsifiées avec les troubles sociétaux sera à l'avant-garde, en particulier avec les grandes économies organisant des élections.

Au milieu des angoisses croissantes au sujet du coût de la vie, les risques associés à la désinformation alimentée par l'IA devraient éclipser d'autres préoccupations cette année. Selon le WEF, la désinformation et la désinformation dépasseront la liste des risques mondiaux, suivis de près par des événements météorologiques extrêmes et une polarisation sociétale. Le rapport répertorie également la cyber-insécurité et les conflits armés interétatiques entre les cinq principaux risques.

Variations régionales de la perception des risques

Bien que la désinformation et la désinformation soient considérées comme le premier risque en Inde, il se classe sixième aux États-Unis et huitième de l'Union européenne. Le WEF souligne que l'accélération rapide des capacités des informations manipulées, motivées par un accès facile aux technologies sophistiquées et une baisse de la confiance envers l'information et les institutions, exacerbe la situation.

L'impact du contenu synthétique

Au cours des deux prochaines années, divers acteurs devraient exploiter la poussée du contenu synthétique, intensifiant davantage les divisions sociétales, la violence idéologique et la répression politique. Avec près de trois milliards de personnes qui devraient voter dans des pays comme l'Inde, l'Indonésie, les États-Unis et le Royaume-Uni, la diffusion généralisée de la désinformation pourrait compromettre la légitimité des gouvernements nouvellement élus.

La facilité d'accès aux outils d'IA conviviaux a déjà conduit à un boom des informations falsifiées et du contenu "synthétique", tels que le clonage vocal avancé et les faux sites Web. Le WEF avertit que ce contenu synthétique manipulera les individus, nuira aux économies et aux sociétés de fracture de nombreuses manières au cours des deux prochaines années, potentiellement utilisées à diverses fins, de l'activisme climatique à l'escalade des conflits.

Menaces émergentes et réponses réglementaires

De nouveaux types de crimes, tels que la pornographie profonde non consensuelle et la manipulation des marchés boursiers, sont également en augmentation. Le WEF met en garde que ces questions pourraient conduire à de violentes manifestations, aux crimes de haine, aux conflits civils et au terrorisme.

En réponse, certains pays mettent déjà en œuvre de nouvelles réglementations destinées à la fois sur les hôtes et les créateurs de contenu en ligne et illégal. La réglementation naissante de l'IA générative, telle que les besoins de la Chine à filigraner le contenu généré par l'IA, peut aider à identifier de fausses informations, y compris la désinformation involontaire à partir du contenu généré par l'IA. Cependant, le WEF note qu'il est peu probable que le rythme de la réglementation suive le développement rapide de la technologie.

Les progrès technologiques récents ont augmenté le volume, la portée et l'efficacité des informations falsifiées, ce qui rend plus difficile le suivi, l'attribut et le contrôle. Les plateformes de médias sociaux, chargées de maintenir l'intégrité, peuvent être dépassées par de multiples campagnes qui se chevauchent. De plus, la désinformation devient de plus en plus personnalisée et ciblée, souvent répartie à travers des plates-formes de messagerie moins transparentes comme WhatsApp ou WeChat.

Défis pour distinguer le contenu généré par l'IA

Le WEF met également en évidence la difficulté croissante de distinction entre le contenu généré par l'AI-Généré et l'homme, même pour les systèmes de détection sophistiqués et les individus avertis en technologie. Cependant, certains pays prennent des mesures pour relever ce défi.

L'initiative de Singapour pour combattre Deepfakes

Singapour a annoncé un investissement de 20 millions de dollars SG (15,04 millions de dollars) dans un programme de recherche en ligne et de sécurité en ligne, qui comprend la création d'un centre pour développer des outils pour lutter contre le contenu en ligne nocif. Dirigée par le ministère des Communications et de l'Information (MCI), cette initiative devrait s'exécuter jusqu'en 2028.

Le Center for Advanced Technologies in Online Safety, prévu au premier semestre de 2024, vise à rassembler des chercheurs et des organisations pour créer un écosystème robuste pour un Internet plus sûr. Le centre se concentrera sur le développement et la personnalisation des outils pour détecter le contenu nocif, tels que DeepFakes et de fausses réclamations, et travaillera également à identifier les vulnérabilités sociétales et à développer des interventions pour réduire la sensibilité au contenu nocif.

MCI s'est déjà engagé avec plus de 100 professionnels du monde universitaire et des secteurs public et privé, avec 30 participants directement impliqués dans le travail du centre. Les outils développés seront testés et proposés pour adoption, visant à améliorer la confiance numérique grâce à des technologies comme le filigrane et l'authentification du contenu.

Les implications plus larges de la désinformation

Le WEF prévient que si elle n'est pas contrôlée, la désinformation pourrait conduire à deux scénarios contrastés. D'une part, certains gouvernements et plateformes pourraient hiérarchiser la liberté d'expression et les libertés civiles, qui ne parvient pas à freiner efficacement les informations falsifiées, conduisant à une définition controversée de la «vérité» entre les sociétés. Cela pourrait être exploité par les acteurs des États et non étatiques pour approfondir les divisions sociétales, saper la confiance du public dans les institutions politiques et menacer la cohésion nationale.

D'un autre côté, en réponse à la propagation de la désinformation, certains pays pourraient recourir à un contrôle accru sur les informations, à risquer la propagande intérieure et la censure. Alors que le concept de vérité est miné, les gouvernements peuvent gagner plus de pouvoir pour contrôler les informations en fonction de leur définition de «vérité», ce qui entraîne une répression plus large des flux d'information et une érosion approfondie de la liberté d'accès à Internet, de la presse et de l'information.