Google发行负责人AI报告，丢弃反武器的承诺

O mais recente relatório de progresso responsável da IA ​​do Google, divulgado na terça -feira, oferece uma visão detalhada dos esforços da empresa para gerenciar riscos de IA e promover a inovação responsável. O relatório destaca o compromisso do Google com "governar, mapear, medir e gerenciar riscos de IA" e fornece atualizações sobre como esses princípios estão sendo colocados em prática em toda a empresa. No entanto, uma omissão impressionante do relatório é qualquer menção ao uso da IA ​​em armas e vigilância, um tópico que está notavelmente ausente desde que o Google removeu uma promessa relacionada de seu site.

O relatório mostra a dedicação do Google à segurança, com mais de 300 documentos de pesquisa de segurança publicados em 2024, US $ 120 milhões investidos em educação e treinamento de IA e uma classificação de prontidão "madura" para sua IA em nuvem do Instituto Nacional de Padrões e Tecnologia (NIST) Risk Management Framework. Ele investiga os esforços de time vermelho focado em segurança e conteúdo, principalmente em projetos como Gêmeos, Alphafold e Gemma, e enfatiza as estratégias da empresa para evitar geração ou distribuição prejudicial de conteúdo. Além disso, o Google destaca sua ferramenta de marcação de conteúdo de conteúdo, Synthid, com o objetivo de rastrear a desinformação gerada pela IA.

O Google também atualizou sua estrutura de segurança de fronteira, introduzindo novas recomendações de segurança, procedimentos de mitigação de uso indevido e abordando o "risco de alinhamento enganoso", que lida com o potencial de sistemas autônomos minarem o controle humano. Esta questão foi observada em modelos como o Open O1 e Claude 3 Opus, onde os sistemas de IA mostraram tendências de enganar seus criadores para manter a autonomia.

Apesar dessas medidas abrangentes de segurança e segurança, o relatório permanece focado na segurança do usuário final, privacidade de dados e IA do consumidor, com apenas menções breves a questões mais amplas, como uso indevido, ataques cibernéticos e o desenvolvimento da inteligência geral artificial (AGI). Essa abordagem centrada no consumidor contrasta com a recente remoção da promessa do Google de não usar a IA para armas ou vigilância, uma mudança que a Bloomberg relatou ser visível no site da empresa até a semana passada.

Essa discrepância levanta questões significativas sobre o que constitui IA responsável. Os princípios renovados da IA ​​do Google enfatizam "inovação ousada, progresso colaborativo e desenvolvimento e implantação responsáveis", alinhando -se com "metas do usuário, responsabilidade social e princípios amplamente aceitos de direito internacional e direitos humanos". No entanto, a imprecisão desses princípios pode permitir uma reavaliação de casos de uso de armas sem contradizer sua própria orientação.

A postagem no blog do Google que acompanha o relatório afirma: "Continuaremos a focar na pesquisa e aplicativos de IA que se alinham à nossa missão, nosso foco científico e em nossas áreas de especialização, sempre avaliando trabalhos específicos avaliando cuidadosamente se os benefícios superavam substancialmente os riscos potenciais". Essa mudança reflete uma tendência mais ampla entre os gigantes da tecnologia, como visto nas recentes parcerias da Openai com os laboratórios nacionais e empreiteiros de defesa dos EUA, e o arremesso de Dall-E da Microsoft ao Departamento de Defesa.

Princípios da IA ​​do Google e a promessa removida

A remoção da seção intitulada "Aplicativos que não buscaremos" no site do Google, que anteriormente incluiu um compromisso de não usar a IA para armas ou vigilância, marca uma mudança significativa na posição da empresa. Esta seção agora excluída, como mostrado na captura de tela abaixo, declarou explicitamente a intenção do Google de evitar tais aplicativos.

O contexto mais amplo da IA ​​em aplicações militares

As atitudes em evolução dos gigantes da tecnologia em relação às aplicações militares da IA ​​fazem parte de um mosaico maior. A recente mudança da OpenAI para a infraestrutura de segurança nacional e parcerias com empreiteiros de defesa, juntamente com o envolvimento da Microsoft com o Departamento de Defesa, ilustram uma crescente aceitação da IA ​​em contextos militares. Essa mudança solicita uma reavaliação do que a IA responsável significa realmente diante de tais aplicações.