MSC collabore sur les risques et opportunités d'IA

Depuis six décennies, la Conférence de Munich sur la sécurité est un lieu de rassemblement clé pour les dirigeants mondiaux, les entreprises, les experts et la société civile afin de tenir des discussions ouvertes sur le renforcement et la protection des démocraties et de l'ordre mondial. Avec l'augmentation des tensions géopolitiques, des élections cruciales à travers le monde et des cybermenaces de plus en plus sophistiquées, ces discussions sont plus vitales que jamais. L'émergence de l'IA dans des rôles à la fois offensifs et défensifs ajoute une toute nouvelle dimension à la conversation.

Cette semaine, le Threat Analysis Group (TAG) de Google, ainsi que les équipes de Mandiant et de Trust & Safety, ont publié un nouveau rapport. Il révèle comment des groupes soutenus par l'Iran utilisent la guerre de l'information pour influencer l'opinion publique sur le conflit israélo-palestinien. Le rapport met également à jour les aspects cybernétiques de la guerre de la Russie en Ukraine. Par ailleurs, TAG a souligné l'utilisation croissante de logiciels espions commerciaux par des gouvernements et autres acteurs malveillants, ciblant des journalistes, des défenseurs des droits humains, des dissidents et des politiciens de l'opposition. Et n'oublions pas les rapports continus sur les acteurs malveillants exploitant les anciennes vulnérabilités des systèmes pour compromettre la sécurité des gouvernements et des entreprises privées.

Au milieu de ces menaces croissantes, nous avons une opportunité en or d'utiliser l'IA pour renforcer les cyberdéfenses des démocraties à travers le monde, offrant aux entreprises, aux gouvernements et aux organisations de nouveaux outils défensifs autrefois réservés aux plus grands acteurs. À Munich cette semaine, nous explorons comment nous pouvons utiliser de nouveaux investissements, engagements et partenariats pour faire face aux risques de l'IA et tirer parti de son potentiel. Après tout, les démocraties ne peuvent prospérer dans un monde où les attaquants peuvent utiliser l'IA pour innover, mais pas les défenseurs.

Utiliser l'IA pour renforcer les cyberdéfenses

Pendant des années, les cybermenaces ont été un casse-tête pour les professionnels de la sécurité, les gouvernements, les entreprises et la société civile. L'IA a le potentiel de changer la donne, offrant aux défenseurs un réel avantage sur les attaquants. Mais, comme toute technologie, l'IA peut être une arme à double tranchant si elle n'est pas développée et utilisée de manière sécurisée.

C'est pourquoi nous lançons aujourd'hui l'Initiative de cyberdéfense par l'IA. Il s'agit de tirer parti du potentiel de sécurité de l'IA avec une proposition d'agenda politique et technologique pour aider à sécuriser, renforcer et faire progresser notre avenir numérique collectif. L'Initiative de cyberdéfense par l'IA s'appuie sur notre Secure AI Framework (SAIF), qui aide les organisations à créer des outils et produits IA sécurisés dès le départ.

Dans le cadre de cette initiative, nous lançons une nouvelle cohorte de startups "AI for Cybersecurity" pour dynamiser la scène de la cybersécurité transatlantique. Nous augmentons également notre engagement de 15 millions de dollars pour la formation à la cybersécurité à travers l'Europe, en ajoutant 2 millions de dollars supplémentaires pour soutenir la recherche en cybersécurité, et en rendant open-source Magika, notre système d'identification de type de fichier alimenté par l'IA de Google. De plus, nous continuons à investir dans nos centres de données mondiaux sécurisés et prêts pour l'IA. D'ici la fin de 2024, nous aurons investi plus de 5 milliards de dollars dans les centres de données européens, contribuant à garantir un accès sécurisé et fiable à une gamme de services numériques, y compris les capacités d'IA générative de notre plateforme Vertex AI.

Protéger les élections démocratiques

Cette année, des élections ont lieu partout en Europe, aux États-Unis, en Inde et dans de nombreux autres pays. Nous avons un historique de soutien à l'intégrité des élections démocratiques, et nous venons d'annoncer notre campagne de prébunking dans l'UE avant les élections parlementaires. Cette campagne, qui enseigne aux gens comment repérer les techniques de manipulation courantes avant qu'ils ne les rencontrent à travers de courtes publicités vidéo sur les réseaux sociaux, commence ce printemps en France, en Allemagne, en Italie, en Belgique et en Pologne. Nous nous engageons également pleinement à poursuivre nos efforts pour arrêter les abus sur nos plateformes, fournir aux électeurs des informations de haute qualité et donner aux gens des informations sur le contenu généré par l'IA pour les aider à faire de meilleurs choix.

Il y a des inquiétudes légitimes concernant l'utilisation abusive de l'IA pour créer des deepfakes et induire les électeurs en erreur. Mais l'IA offre également une opportunité unique de prévenir les abus à grande échelle. Les équipes Trust & Safety de Google s'attaquent à ce problème de front, utilisant l'IA pour renforcer nos efforts de lutte contre les abus, appliquer nos politiques plus efficacement et nous adapter rapidement aux nouvelles situations ou revendications.

Nous collaborons également avec d'autres acteurs de l'industrie, partageant des recherches et travaillant ensemble pour contrer les menaces et les abus, y compris le risque de contenu IA trompeur. La semaine dernière, nous avons rejoint la Coalition for Content Provenance and Authenticity (C2PA), qui travaille sur une accréditation de contenu pour éclairer la manière dont le contenu généré par l'IA est créé et modifié au fil du temps. Cela s'appuie sur nos collaborations intersectorielles autour de l'IA responsable avec le Frontier Model Forum, le Partnership on AI et d'autres initiatives.

Collaborer pour défendre l'ordre international basé sur des règles

La Conférence de Munich sur la sécurité a résisté à l'épreuve du temps en tant que lieu pour relever les défis à la démocratie. Pendant 60 ans, les démocraties ont fait face et surmonté ces défis, gérant des changements majeurs—comme celui apporté par l'IA—ensemble. Maintenant, nous avons une nouvelle opportunité de nous réunir—en tant que gouvernements, entreprises, universitaires et société civile—pour forger de nouveaux partenariats, exploiter le potentiel de l'IA pour le bien, et renforcer l'ordre mondial basé sur des règles.