A desinformação de IA é identificada como o melhor risco global

À medida que nos aproximamos de um período em que numerosos países estão se preparando para eleições nos próximos dois anos, a ameaça de desinformação e misinformation, impulsionada pela inteligência artificial (AI), destaca-se como o risco global mais crítico. Essa preocupação é reforçada pelo Relatório de Riscos Globais 2024 do Fórum Econômico Mundial (WEF), que destaca que o entrelaçamento de informações falsificadas com agitação social estará na vanguarda, especialmente com grandes economias realizando eleições.

Em meio a crescentes ansiedades sobre o custo de vida, os riscos associados à desinformação impulsionada por AI devem ofuscar outras preocupações este ano. De acordo com o WEF, a desinformação e misinformation liderarão a lista de riscos globais, seguidas de perto por eventos climáticos extremos e polarização social. O relatório também lista a insegurança cibernética e conflitos armados interestatais entre os cinco principais riscos.

Variações Regionais na Percepção de Risco

Embora a desinformação e misinformation sejam consideradas o principal risco na Índia, elas ocupam a sexta posição nos EUA e a oitava na União Europeia. O WEF aponta que a rápida aceleração nas capacidades de manipulação de informações, impulsionada pelo fácil acesso a tecnologias sofisticadas e pela queda na confiança em informações e instituições, está agravando a situação.

O Impacto do Conteúdo Sintético

Nos próximos anos, espera-se que diversos atores explorem o aumento do conteúdo sintético, intensificando ainda mais as divisões sociais, a violência ideológica e a repressão política. Com quase três bilhões de pessoas prontas para votar em países como Índia, Indonésia, EUA e Reino Unido, a disseminação generalizada de desinformação pode comprometer a legitimidade de governos recém-eleitos.

A facilidade de acesso a ferramentas de AI amigáveis ao usuário já levou a um aumento na informação falsificada e conteúdo "sintético", como clonagem de voz avançada e sites falsos. O WEF alerta que esse conteúdo sintético manipulará indivíduos, prejudicará economias e fragmentará sociedades de várias maneiras nos próximos dois anos, podendo ser usado para diversos propósitos, desde ativismo climático até escalada de conflitos.

Ameaças Emergentes e Respostas Regulatórias

Novos tipos de crimes, como pornografia deepfake não consensual e manipulação do mercado de ações, também estão em ascensão. O WEF alerta que essas questões podem levar a protestos violentos, crimes de ódio, conflitos civis e terrorismo.

Em resposta, alguns países já estão implementando novas regulamentações voltadas tanto para os anfitriões quanto para os criadores de conteúdo online e ilegal. A regulação nascente de AI generativa, como a exigência da China de marcar conteúdo gerado por AI com marca d'água, pode ajudar a identificar informações falsas, incluindo desinformação não intencional de conteúdo gerado por AI. No entanto, o WEF observa que o ritmo da regulamentação provavelmente não acompanhará o rápido desenvolvimento da tecnologia.

Avanços tecnológicos recentes aumentaram o volume, o alcance e a eficácia de informações falsificadas, tornando mais difícil rastrear, atribuir e controlar. Plataformas de mídia social, encarregadas de manter a integridade, podem ser sobrecarregadas por múltiplas campanhas sobrepostas. Além disso, a desinformação está se tornando cada vez mais personalizada e direcionada, frequentemente espalhada por plataformas de mensagens menos transparentes, como WhatsApp ou WeChat.

Desafios em Diferenciar Conteúdo Gerado por AI

O WEF também destaca a crescente dificuldade em distinguir entre conteúdo gerado por AI e conteúdo gerado por humanos, mesmo para sistemas de detecção sofisticados e indivíduos conhecedores de tecnologia. No entanto, alguns países estão tomando medidas para enfrentar esse desafio.

Iniciativa de Singapura para Combater Deepfakes

Singapura anunciou um investimento de SG$20 milhões ($15,04 milhões) em um programa de pesquisa sobre confiança e segurança online, que inclui a criação de um centro para desenvolver ferramentas para combater conteúdo online prejudicial. Liderada pelo Ministério das Comunicações e Informação (MCI), essa iniciativa está programada para funcionar até 2028.

O Centro para Tecnologias Avançadas em Segurança Online, programado para ser lançado na primeira metade de 2024, tem como objetivo reunir pesquisadores e organizações para criar um ecossistema robusto para uma internet mais segura. O centro se concentrará no desenvolvimento e personalização de ferramentas para detectar conteúdo prejudicial, como deepfakes e afirmações falsas, e também trabalhará na identificação de vulnerabilidades sociais e no desenvolvimento de intervenções para reduzir a suscetibilidade a conteúdos prejudiciais.

O MCI já envolveu mais de 100 profissionais de academia e dos setores público e privado, com 30 participantes diretamente envolvidos no trabalho do centro. As ferramentas desenvolvidas serão testadas e propostas para adoção, visando aumentar a confiança digital por meio de tecnologias como marca d'água e autenticação de conteúdo.

As Implicações Mais Amplas da Desinformação

O WEF alerta que, se não for controlada, a desinformação pode levar a dois cenários contrastantes. Por um lado, alguns governos e plataformas podem priorizar a liberdade de expressão e liberdades civis, potencialmente falhando em conter informações falsificadas de forma eficaz, levando a uma definição contenciosa de 'verdade' nas sociedades. Isso poderia ser explorado por atores estatais e não estatais para aprofundar divisões sociais, minar a confiança pública nas instituições políticas e ameaçar a coesão nacional.

Por outro lado, em resposta à disseminação de desinformação, alguns países podem recorrer a um controle maior sobre as informações, arriscando propaganda doméstica e censura. À medida que o conceito de verdade é minado, os governos podem ganhar mais poder para controlar informações com base em sua definição de 'verdade', potencialmente levando a uma repressão mais ampla dos fluxos de informação e maior erosão das liberdades de acesso à internet, imprensa e informações.