Andrew ng `` très heureux '' Google termine l'engagement d'armes AI

Andrew Ng, le fondateur et ancien dirigeant de Google Brain, a exprimé son soutien à la récente décision de Google d'abandonner son engagement à ne pas développer d'IA pour les armes.

"Je suis vraiment ravi que Google ait changé de position," a déclaré Ng lors d'une interview en direct avec TechCrunch à la Military Veteran Startup Conference à San Francisco, jeudi soir.

Cette semaine, Google a supprimé une promesse de 7 ans de sa page de principes d'IA, qui stipulait que l'entreprise ne créerait pas d'IA pour les armes ou la surveillance. En accompagnement de ce changement, Google a publié un article de blog par le PDG de DeepMind, Demis Hassabis, soulignant la nécessité d'une collaboration entre les entreprises et les gouvernements pour développer une IA qui "soutient la sécurité nationale."

L'engagement initial de Google contre les armes IA est intervenu en 2018, après les protestations contre le Project Maven, où des milliers d'employés se sont opposés aux contrats militaires de l'entreprise. Les protestations portaient sur le rôle de Google dans la fourniture d'IA à un programme militaire qui analysait des séquences vidéo, pouvant potentiellement améliorer la précision des frappes de drones.

Ng a exprimé sa perplexité face aux protestations contre le Project Maven devant un public principalement composé de vétérans.

"Honnêtement, quand la question du Project Maven a surgi ... Beaucoup d'entre vous sont là, prêts à risquer vos vies pour notre pays afin de nous protéger," a déclaré Ng. "Alors, comment une entreprise américaine peut-elle refuser d'aider nos propres troupes qui se battent pour nous ?"

Bien que Ng n'était pas chez Google pendant les protestations contre le Project Maven, il a considérablement influencé les initiatives d'IA et de réseaux neuronaux de l'entreprise. Actuellement, Ng dirige AI Fund, un studio de capital-risque axé sur l'IA, et discute souvent de la politique d'IA.

Ng a également exprimé son soulagement que deux propositions réglementaires sur l'IA — le projet de loi SB 1047 de Californie, rejeté, et l'ordre exécutif sur l'IA de Biden, annulé — ne soient plus en vigueur. Il a constamment soutenu que ces mesures entraveraient le développement de l'IA open-source aux États-Unis.

Ng estime que la véritable voie pour garantir la sécurité de l'IA en Amérique réside dans le maintien de la compétitivité technologique avec la Chine. Il a souligné que les drones IA "transformeraient complètement le champ de bataille."

Il n'est pas seul dans cette opinion parmi les anciens dirigeants de Google. Eric Schmidt, l'ancien PDG de Google, fait maintenant du lobbying à Washington, D.C., pour que les États-Unis acquièrent des drones IA afin de rester au niveau de la Chine ; son entreprise, White Stork, pourrait éventuellement fournir ces drones.

Alors que Ng et Schmidt plaident pour des applications militaires de l'IA, la question divise depuis longtemps les employés de Google.

Meredith Whittaker, maintenant présidente de Signal, a dirigé les protestations contre Maven en 2018 alors qu'elle était chercheuse en IA chez Google. Lorsque Google s'est engagé à ne pas renouveler ses contrats Project Maven, Whittaker a exprimé sa satisfaction, déclarant que l'entreprise "ne devrait pas être dans le commerce de la guerre."

Elle n'est pas la seule à s'opposer. Geoffrey Hinton, ancien chercheur en IA chez Google et lauréat du prix Nobel, a exhorté les gouvernements mondiaux à interdire et réglementer l'IA dans les armes. Jeff Dean, ancien dirigeant respecté de Google et maintenant scientifique en chef chez DeepMind, a également signé une lettre contre l'utilisation de l'apprentissage automatique dans les armes autonomes.

Ces dernières années, Google et Amazon ont fait face à un examen accru de leurs engagements militaires, y compris leurs contrats Project Nimbus avec le gouvernement israélien. L'année dernière, des employés des deux entreprises ont organisé des sit-ins pour protester contre Project Nimbus, dans le cadre duquel Google et Amazon auraient fourni des services d'informatique en nuage aux Forces de défense israéliennes.

Le Pentagone et les armées du monde entier sont de plus en plus désireux de tirer parti de l'IA, comme l'a précédemment déclaré le responsable en chef de l'IA du Département de la Défense à TechCrunch. Alors que Google, Amazon, Microsoft et autres géants technologiques investissent des centaines de milliards dans l'infrastructure de l'IA, beaucoup cherchent à compenser ces coûts par des collaborations militaires.