Andrew Ng 'muito feliz' Google termina a promessa de armas AI

Andrew Ng, o fundador e ex-chefe do Google Brain, expressou seu apoio à recente decisão do Google de abandonar seu compromisso de não desenvolver IA para armas.

"Estou realmente satisfeito que o Google tenha mudado sua posição," declarou Ng durante uma entrevista ao vivo com a TechCrunch na Conferência de Startups de Veteranos Militares em São Francisco na quinta-feira à noite.

Nesta semana, o Google removeu uma promessa de sete anos de sua página de princípios de IA, que afirmava que a empresa não criaria IA para armas ou vigilância. Acompanhando essa mudança, o Google publicou um post de blog do CEO da DeepMind, Demis Hassabis, enfatizando a necessidade de colaboração entre empresas e governos para desenvolver IA que "apoie a segurança nacional."

A promessa original do Google contra armas de IA veio em 2018, após os protestos do Projeto Maven, onde milhares de funcionários objetaram aos contratos militares da empresa. Os protestos focaram no papel do Google em fornecer IA para um programa militar que analisava imagens de vídeo, potencialmente aumentando a precisão de ataques de drones.

Ng expressou confusão sobre os protestos do Projeto Maven para uma audiência composta principalmente por veteranos.

"Honestamente, quando a questão do Projeto Maven surgiu ... Muitos de vocês estão lá fora, prontos para arriscar suas vidas pelo nosso país para nos manter seguros," comentou Ng. "Então, como uma empresa americana pode possivelmente se recusar a ajudar nossas próprias tropas que estão lá lutando por nós?"

Embora Ng não estivesse no Google durante os protestos do Projeto Maven, ele influenciou significativamente as iniciativas de IA e redes neurais da empresa. Atualmente, Ng dirige o AI Fund, um estúdio de venture focado em IA, e frequentemente discute políticas de IA.

Ng também expressou alívio pelo fato de duas propostas regulatórias de IA — o projeto de lei SB 1047 da Califórnia, vetado, e a ordem executiva de IA de Biden, revogada — não estarem mais ativas. Ele argumentou consistentemente que essas medidas dificultariam o desenvolvimento de IA de código aberto nos EUA.

Ng acredita que o verdadeiro caminho para garantir a segurança da IA na América está em manter a competitividade tecnológica com a China. Ele apontou que drones de IA "transformariam completamente o campo de batalha."

Ele não está sozinho nessa visão entre ex-executivos do Google. Eric Schmidt, ex-CEO do Google, agora faz lobby em Washington, D.C., para que os EUA adquiram drones de IA para acompanhar a China; sua empresa, White Stork, pode eventualmente fornecer esses drones.

Enquanto Ng e Schmidt defendem aplicações militares de IA, a questão há muito divide a força de trabalho do Google.

Meredith Whittaker, agora presidente da Signal, liderou os protestos do Maven em 2018 enquanto trabalhava como pesquisadora de IA no Google. Quando o Google prometeu não renovar seus contratos do Projeto Maven, Whittaker expressou satisfação, afirmando que a empresa "não deveria estar no negócio da guerra."

Ela não é a única a expressar oposição. Geoffrey Hinton, ex-pesquisador de IA do Google e laureado com o Nobel, pediu aos governos globais que banissem e regulassem IA em armas. Jeff Dean, um respeitado ex-executivo do Google e agora cientista-chefe da DeepMind, também assinou uma carta contra o uso de aprendizado de máquina em armas autônomas.

Nos últimos anos, Google e Amazon enfrentaram maior escrutínio por seus compromissos militares, incluindo seus contratos do Projeto Nimbus com o governo israelense. No último ano, funcionários de ambas as empresas realizaram protestos sentados contra o Projeto Nimbus, no qual Google e Amazon supostamente forneceram serviços de computação em nuvem para as Forças de Defesa de Israel.

O Pentágono e militares em todo o mundo estão cada vez mais ansiosos para aproveitar a IA, como o chefe de IA do Departamento de Defesa disse anteriormente à TechCrunch. À medida que Google, Amazon, Microsoft e outros gigantes da tecnologia investem centenas de bilhões em infraestrutura de IA, muitos buscam compensar esses custos por meio de colaborações militares.