A desinformação de IA é identificada como o melhor risco global

Ao nos aproximarmos de um período em que vários países estão se preparando para as eleições nos próximos dois anos, a ameaça de desinformação e desinformação, turboalimentada pela inteligência artificial (AI), parece grande como o risco global mais crítico. Essa preocupação é sublinhada pelo Relatório Global de Riscos Globais do Fórum Econômico (WEF), que destaca que o entrelaçamento de informações falsificadas com agitação social estará na vanguarda, especialmente com as principais economias realizando eleições.

Em meio a ansiedades crescentes sobre o custo de vida, os riscos associados à desinformação de IA são definidos para ofuscar outras preocupações deste ano. De acordo com o WEF, a desinformação e a desinformação superarão a lista de riscos globais, seguidos de perto por eventos climáticos extremos e polarização social. O relatório também lista a insegurança cibernética e o conflito armado interestadual entre os cinco principais riscos.

Variações regionais na percepção de risco

Embora a desinformação e a desinformação sejam consideradas o maior risco na Índia, ocupa o sexto lugar nos EUA e oitavo na União Europeia. O WEF ressalta que a rápida aceleração nas capacidades de informações manipuladas, impulsionada pelo fácil acesso a tecnologias sofisticadas e um declínio em confiança em relação a informações e instituições, está exacerbando a situação.

O impacto do conteúdo sintético

Nos dois anos seguintes, espera -se que vários atores explorem o aumento do conteúdo sintético, intensificando ainda mais as divisões sociais, a violência ideológica e a repressão política. Com quase três bilhões de pessoas prontas para votar em países como Índia, Indonésia, EUA e Reino Unido, a disseminação generalizada de desinformação pode comprometer a legitimidade dos governos recém -eleitos.

A facilidade de acessar as ferramentas de AI fácil de usar já levou a um boom em informações falsificadas e conteúdo "sintético", como clonagem de voz avançada e sites falsos. O WEF avisa que esse conteúdo sintético manipulará indivíduos, prejudicará as economias e as sociedades de fraturas de várias maneiras nos próximos dois anos, potencialmente sendo usados ​​para vários propósitos, desde o ativismo climático até os conflitos escalados.

Ameaças emergentes e respostas regulatórias

Novos tipos de crimes, como pornografia não consensual de Deepfake e manipulação do mercado de ações, também estão em ascensão. O WEF adverte que essas questões podem levar a protestos violentos, crimes de ódio, conflitos civis e terrorismo.

Em resposta, alguns países já estão implementando novos regulamentos destinados aos hosts e criadores de conteúdo online e ilegal. A regulamentação nascente da IA ​​generativa, como a exigência da China para o conteúdo gerado por IA, pode ajudar na identificação de informações falsas, incluindo informações errôneas não intencionais a partir de conteúdo gerado pela IA. No entanto, é improvável que o WEF observa que é improvável que o ritmo da regulamentação acompanhe o rápido desenvolvimento da tecnologia.

Os recentes avanços tecnológicos aumentaram o volume, alcance e eficácia das informações falsificadas, dificultando o rastreamento, o atributo e o controle. As plataformas de mídia social, encarregadas de manter a integridade, podem ser impressionadas com várias campanhas sobrepostas. Além disso, a desinformação está se tornando cada vez mais personalizada e direcionada, geralmente espalhada por plataformas de mensagens menos transparentes como o WhatsApp ou o WeChat.

Desafios na distinção de conteúdo gerado pela IA

O WEF também destaca a crescente dificuldade em distinguir entre conteúdo gerado por IA e gerado pelo ser humano, mesmo para sistemas sofisticados de detecção e indivíduos com conhecimento em tecnologia. No entanto, alguns países estão tomando medidas para enfrentar esse desafio.

Iniciativa de Cingapura para combater o DeepFakes

A Cingapura anunciou um investimento da SG US $ 20 milhões (US $ 15,04 milhões) em um programa de pesquisa de confiança e segurança on -line, que inclui o estabelecimento de um centro para desenvolver ferramentas para combater o conteúdo on -line prejudicial. Liderado pelo Ministério das Comunicações e Informações (MCI), esta iniciativa deve ser executada até 2028.

O Centro de Tecnologias Avançadas em Segurança Online, programada para ser lançada no primeiro semestre de 2024, pretende reunir pesquisadores e organizações para criar um ecossistema robusto para uma Internet mais segura. O Centro se concentrará no desenvolvimento e personalização de ferramentas para detectar conteúdo nocivo, como Fakes DeepFakes e falsas reivindicações, e também trabalhará na identificação de vulnerabilidades sociais e no desenvolvimento de intervenções para reduzir a suscetibilidade ao conteúdo prejudicial.

O MCI já se envolveu com mais de 100 profissionais da academia e dos setores público e privado, com 30 participantes diretamente envolvidos no trabalho do centro. As ferramentas desenvolvidas serão testadas e propostas para adoção, com o objetivo de aprimorar a confiança digital por meio de tecnologias como marcas d'água e autenticação de conteúdo.

As implicações mais amplas de desinformação

O WEF avisa que, se não for contratado, a desinformação pode levar a dois cenários contrastantes. Por um lado, alguns governos e plataformas podem priorizar a liberdade de expressão e liberdades civis, potencialmente falhando em conter as informações falsificadas de maneira eficaz, levando a uma definição controversa de 'verdade' entre as sociedades. Isso pode ser explorado por atores estaduais e não estatais para aprofundar as divisões sociais, minar a confiança do público nas instituições políticas e ameaçar a coesão nacional.

Por outro lado, em resposta à disseminação da desinformação, alguns países podem recorrer a um aumento do controle sobre as informações, arriscando propaganda e censura doméstica. Como o conceito de verdade é prejudicado, os governos podem ganhar mais poder para controlar as informações com base em sua definição de 'verdade', levando potencialmente a uma repressão mais ampla dos fluxos de informação e a erosão da Internet, imprensa e acesso à informação.