MSC colabora em riscos e oportunidades de IA

Por seis décadas, a Conferência de Segurança de Munique tem sido um ponto de encontro chave para líderes mundiais, empresas, especialistas e sociedade civil discutirem abertamente sobre fortalecer e proteger democracias e a ordem global. Com crescentes tensões geopolíticas, eleições cruciais em todo o mundo e ameaças cibernéticas mais avançadas, essas conversas são mais vitais do que nunca. O surgimento da AI em papéis ofensivos e defensivos adiciona uma nova camada à discussão.

Esta semana, o Google Threat Analysis Group (TAG), junto com as equipes Mandiant e Trust & Safety, lançou um novo relatório. Ele revela como grupos apoiados pelo Irã usam guerra de informação para influenciar a opinião pública no conflito Israel-Hamas. O relatório também atualiza sobre os aspectos cibernéticos da guerra da Rússia na Ucrânia. Separadamente, o TAG destacou o crescente uso de spyware comercial por governos e outros atores maliciosos, visando jornalistas, ativistas de direitos humanos, dissidentes e políticos da oposição. E não podemos esquecer os relatórios contínuos de atores de ameaças explorando vulnerabilidades antigas de sistemas para comprometer a segurança de governos e empresas privadas.

Em meio a essas ameaças crescentes, temos uma oportunidade única de usar a AI para fortalecer as defesas cibernéticas das democracias em todo o mundo, dando a empresas, governos e organizações novas ferramentas defensivas que antes só estavam disponíveis para os maiores players. Em Munique esta semana, estamos explorando como podemos usar novos investimentos, compromissos e parcerias para enfrentar os riscos da AI e capitalizar seu potencial. Afinal, as democracias não podem florescer em um mundo onde atacantes podem usar AI para inovar, mas os defensores não.

Usando AI para reforçar defesas cibernéticas

Por anos, ameaças cibernéticas têm sido uma dor de cabeça para profissionais de segurança, governos, empresas e sociedade civil. A AI tem o potencial de mudar o equilíbrio, dando aos defensores uma vantagem real sobre os atacantes. Mas, como qualquer tecnologia, a AI pode ser uma faca de dois gumes se não for desenvolvida e usada com segurança.

Por isso, lançamos hoje a Iniciativa de Defesa Cibernética com AI. Trata-se de aproveitar o potencial de segurança da AI com uma agenda proposta de políticas e tecnologia para ajudar a proteger, capacitar e avançar nosso futuro digital coletivo. A Iniciativa de Defesa Cibernética com AI baseia-se no nosso Secure AI Framework (SAIF), que ajuda organizações a criar ferramentas e produtos de AI seguros desde o início.

Como parte desta iniciativa, estamos lançando uma nova coorte de startups "AI para Cibersegurança" para impulsionar o cenário de cibersegurança transatlântico. Também estamos aumentando nosso compromisso de $15 milhões para treinamento em cibersegurança na Europa, adicionando mais $2 milhões para apoiar pesquisas em cibersegurança e disponibilizando em código aberto o Magika, nosso sistema de identificação de tipo de arquivo alimentado por Google AI. Além disso, continuamos investindo em nossos data centers globais seguros e prontos para AI. Até o final de 2024, teremos investido mais de $5 bilhões em data centers europeus, ajudando a garantir acesso seguro e confiável a uma gama de serviços digitais, incluindo as capacidades de AI generativa da nossa plataforma Vertex AI.

Protegendo eleições democráticas

Este ano, eleições estão acontecendo em toda a Europa, Estados Unidos, Índia e muitos outros países. Temos um histórico de apoio à integridade das eleições democráticas, e acabamos de anunciar nossa campanha de prebunking na UE antes das eleições parlamentares. Esta campanha, que ensina as pessoas a identificar truques comuns de manipulação antes de vê-los por meio de anúncios em vídeo curtos nas redes sociais, começa nesta primavera na França, Alemanha, Itália, Bélgica e Polônia. Também estamos totalmente comprometidos em continuar nossos esforços para impedir abusos em nossas plataformas, fornecer aos eleitores informações de alta qualidade e dar às pessoas informações sobre conteúdo gerado por AI para ajudá-las a fazer escolhas melhores.

Há preocupações válidas sobre o uso indevido da AI para criar deep fakes e enganar eleitores. Mas a AI também oferece uma chance única de prevenir abusos em grande escala. As equipes de Trust & Safety do Google estão enfrentando isso diretamente, usando AI para impulsionar nossos esforços para combater abusos, fazer cumprir nossas políticas de forma mais eficaz e se adaptar rapidamente a novas situações ou alegações.

Também estamos colaborando com outros na indústria, compartilhando pesquisas e trabalhando juntos para combater ameaças e abusos, incluindo o risco de conteúdo de AI enganoso. Na última semana, juntamo-nos à Coalition for Content Provenance and Authenticity (C2PA), que está trabalhando em uma credencial de conteúdo para esclarecer como o conteúdo gerado por AI é criado e editado ao longo do tempo. Isso se baseia nas nossas colaborações interindustriais em torno de AI responsável com o Frontier Model Forum, a Partnership on AI e outras iniciativas.

Unindo forças para defender a ordem internacional baseada em regras

A Conferência de Segurança de Munique resistiu ao teste do tempo como um lugar para enfrentar desafios à democracia. Por 60 anos, as democracias enfrentaram e superaram esses desafios, lidando com grandes mudanças—como a trazida pela AI—juntas. Agora, temos a chance de nos unirmos novamente—como governos, empresas, acadêmicos e sociedade civil—para forjar novas parcerias, aproveitar o potencial da AI para o bem e fortalecer a ordem mundial baseada em regras.