MSC colabora em riscos e oportunidades de IA

Por seis décadas, a Conferência de Segurança de Munique tem sido um ponto importante para líderes mundiais, empresas, especialistas e sociedade civil para ter discussões abertas sobre reforço e proteção das democracias e a ordem global. Com tensões geopolíticas crescentes, eleições cruciais em todo o mundo e ameaças cibernéticas mais avançadas, essas negociações são mais vitais do que nunca. O surgimento da IA ​​em papéis ofensivos e defensivos adiciona uma nova camada à conversa.

Apenas nesta semana, o grupo de análise de ameaças do Google (TAG), juntamente com as equipes de Mandiant and Trust & Safety, lançou um novo relatório. Ele revela como os grupos apoiados pelo Irã estão usando a guerra de informações para influenciar a opinião pública sobre o conflito de Israel-Hamas. O relatório também nos atualiza sobre os aspectos cibernéticos da guerra da Rússia na Ucrânia. Separadamente, a TAG destacou o uso crescente de spyware comercial por governos e outros maus atores, visando jornalistas, ativistas de direitos humanos, dissidentes e políticos da oposição. E não vamos esquecer os relatórios em andamento de atores de ameaças que exploram vulnerabilidades antigas do sistema para comprometer a segurança dos governos e empresas privadas.

No meio dessas ameaças crescentes, temos uma oportunidade de ouro para usar a IA para reforçar as defesas cibernéticas das democracias em todo o mundo, dando às empresas, governos e organizações novas ferramentas defensivas que já estavam disponíveis apenas para os maiores players. Em Munique nesta semana, estamos mergulhando em como podemos usar novos investimentos, compromissos e parcerias para lidar com os riscos de IA e capitalizar seu potencial. Afinal, as democracias não podem florescer em um mundo onde os atacantes podem usar a IA para inovar, mas os defensores não podem.

Usando a IA para reforçar as defesas cibernéticas

Durante anos, as ameaças cibernéticas têm sido uma dor de cabeça para profissionais de segurança, governos, empresas e sociedade civil. A IA tem o potencial de mudar o equilíbrio, dando aos defensores uma vantagem real sobre os atacantes. Mas, como qualquer tecnologia, a IA pode ser uma faca de dois gumes se não for desenvolvida e usada com segurança.

É por isso que iniciamos a iniciativa de defesa cibernética da AI hoje. Trata -se de aproveitar o potencial de segurança da IA ​​com uma agenda de políticas e tecnologia proposta para ajudar a garantir, capacitar e avançar nosso futuro digital coletivo. A iniciativa de defesa cibernética da AI baseia -se em nossa estrutura de IA segura (SAIF), que ajuda as organizações a criar ferramentas e produtos de IA que estão seguros desde o início.

Como parte desta iniciativa, estamos lançando uma nova coorte de startups "AI para segurança cibernética" para aumentar a cena transatlântica de segurança cibernética. Também estamos aumentando nosso compromisso de US $ 15 milhões com o treinamento em segurança cibernética em toda a Europa, jogando outros US $ 2 milhões para apoiar a pesquisa em segurança cibernética e o Magika de código aberto, nosso sistema de identificação de tipo de arquivo de AI do Google. Além disso, continuamos a investir dinheiro em nossos data centers de dados globais seguros e prontos. Até o final de 2024, investiremos mais de US $ 5 bilhões em data centers europeus, ajudando a garantir acesso seguro e confiável a uma variedade de serviços digitais, incluindo os recursos generativos de IA da plataforma AI da VERTEX.

Protegendo as eleições democráticas

Este ano, as eleições estão acontecendo em toda a Europa, Estados Unidos, Índia e muitos outros países. Temos um histórico de apoiar a integridade das eleições democráticas e acabamos de anunciar nossa campanha de pré -encenação da UE antes das eleições parlamentares. Esta campanha, que ensina as pessoas a identificar truques comuns de manipulação antes de vê -los através de pequenos anúncios em vídeo nas mídias sociais, inicia nesta primavera na França, Alemanha, Itália, Bélgica e Polônia. Também estamos totalmente comprometidos em manter nossos esforços para interromper o abuso em nossas plataformas, fornecer aos eleitores informações de alta qualidade e dar às pessoas o conteúdo gerado pela IA para ajudá-los a fazer melhores escolhas.

Há preocupações válidas sobre a IA ser mal utilizada para criar falsificações profundas e enganar os eleitores. Mas a IA também oferece uma chance única de evitar abusos em uma escala enorme. As equipes de confiança e segurança do Google estão enfrentando isso de frente, usando a IA para aumentar nossos esforços para combater o abuso, aplicar nossas políticas de maneira mais eficaz e se adaptar rapidamente a novas situações ou reivindicações.

Também estamos nos unindo a outras pessoas no setor, compartilhando pesquisas e trabalhando juntos para combater ameaças e abusos, incluindo o risco de conteúdo enganoso de IA. Na semana passada, ingressamos na Coalizão de Proveniência e Autenticidade do Conteúdo (C2PA), que está trabalhando em uma credencial de conteúdo para esclarecer como o conteúdo gerado pela IA é feito e editado ao longo do tempo. Isso se baseia em nossas colaborações entre indústrias em torno da IA ​​responsável com o fórum de modelos de fronteira, a parceria da IA ​​e outras iniciativas.

Unindo-se para defender o pedido internacional baseado em regras

A Conferência de Segurança de Munique resistiu ao teste do tempo como um lugar para enfrentar desafios para a democracia. Por 60 anos, as democracias enfrentaram e superaram esses desafios, lidando com grandes mudanças - como a trazida pela IA - a menos. Agora, temos a chance de nos reunir novamente-como governos, empresas, acadêmicos e sociedade civil-para forjar novas parcerias, aproveitar o potencial da IA ​​para o bem e fortalecer a ordem mundial baseada em regras.