MSC collabore sur les risques et opportunités d'IA

Depuis six décennies, la Conférence de sécurité de Munich a été un lieu de rassemblement clé pour les dirigeants mondiaux, les entreprises, les experts et la société civile pour avoir des discussions ouvertes sur le renforcement et la protection des démocraties et l'ordre mondial. Avec des tensions géopolitiques croissantes, des élections cruciales dans le monde et des cyber-menaces plus avancées, ces pourparlers sont plus vitaux que jamais. L'émergence de l'IA dans les rôles offensive et défensive ajoute une toute nouvelle couche à la conversation.

Cette semaine, le groupe d'analyse des menaces de Google (TAG), ainsi que les équipes de mandiant et de confiance et de sécurité, ont abandonné un nouveau rapport. Il révèle comment les groupes soutenus par l'Iran utilisent la guerre de l'information pour influencer l'opinion publique sur le conflit d'Israël-Hamas. Le rapport nous met également à jour sur les cyber-aspects de la guerre de la Russie en Ukraine. Par ailleurs, Tag a souligné l'utilisation croissante des logiciels espions commerciaux par les gouvernements et autres mauvais acteurs, ciblant les journalistes, les militants des droits de l'homme, les dissidents et les politiciens de l'opposition. Et n'oublions pas les rapports en cours d'acteurs de menace exploitant les vulnérabilités du système ancien pour compromettre la sécurité des gouvernements et des entreprises privées.

Au milieu de ces menaces croissantes, nous avons une occasion en or d'utiliser l'IA pour renforcer les cyber-défenses des démocraties du monde entier, donnant aux entreprises, aux gouvernements et aux organisations de nouveaux outils défensifs qui n'étaient autrefois disponibles que pour les plus grands acteurs. À Munich cette semaine, nous plongeons dans la façon dont nous pouvons utiliser de nouveaux investissements, des engagements et des partenariats pour lutter contre les risques d'IA et capitaliser sur son potentiel. Après tout, les démocraties ne peuvent pas s'épanouir dans un monde où les attaquants peuvent utiliser l'IA pour innover, mais les défenseurs ne le peuvent pas.

Utilisation de l'IA pour renforcer les cyber-défenses

Pendant des années, les cyber-menaces ont été un casse-tête pour les professionnels de la sécurité, les gouvernements, les entreprises et la société civile. L'IA a le potentiel de déplacer l'équilibre, donnant aux défenseurs un véritable avantage sur les attaquants. Mais, comme toute technologie, l'IA peut être une épée à double tranchant si elle n'est pas développée et utilisée en toute sécurité.

C'est pourquoi nous avons lancé l'initiative de la cyber-défense de l'IA aujourd'hui. Il s'agit de puiser dans le potentiel de sécurité de l'IA avec un programme de politique et de technologie proposé pour aider à sécuriser, autonomiser et faire progresser notre avenir numérique collectif. L'initiative AI Cyber ​​Defension s'appuie sur notre cadre d'IA sécurisé (SAIF), qui aide les organisations à créer des outils et produits d'IA qui sont sécurisés dès le début.

Dans le cadre de cette initiative, nous lançons une nouvelle cohorte de startup "AI for Cybersecurity" pour stimuler la scène transatlantique de cybersécurité. Nous augmentons également notre engagement de 15 millions de dollars dans la formation en cybersécurité à travers l'Europe, en jetant 2 millions de dollars supplémentaires pour soutenir la recherche sur la cybersécurité et Magika open-source, notre système d'identification de type de fichiers alimenté par Google. De plus, nous continuons à verser de l'argent dans nos centres de données mondiaux sécurisés et prêts à l'AI. À la fin de 2024, nous aurons investi plus de 5 milliards de dollars dans les centres de données européens, contribuant à assurer un accès sécurisé et fiable à une gamme de services numériques, y compris les capacités génératives d'IA génératrices de notre plateforme Vertex AI.

Protéger les élections démocratiques

Cette année, des élections se produisent dans toute l'Europe, les États-Unis, l'Inde et de nombreux autres pays. Nous avons un historique de soutien à l'intégrité des élections démocratiques, et nous venons d'annoncer notre campagne de prébunking de l'UE avant les élections parlementaires. Cette campagne, qui enseigne aux gens comment repérer des astuces de manipulation communes avant de les voir à travers de courtes publicités vidéo sur les réseaux sociaux, démarre ce printemps en France, en Allemagne, en Italie, en Belgique et en Pologne. Nous sommes également pleinement déterminés à maintenir nos efforts pour arrêter les abus sur nos plateformes, à fournir aux électeurs des informations de haute qualité et à donner aux gens la baisse du contenu généré par l'IA pour les aider à faire de meilleurs choix.

Il y a des inquiétudes valables à propos de l'IA qui est à mauvais escient pour créer des contrefaçons profondes et induire les électeurs en erreur. Mais l'IA offre également une chance unique d'empêcher les abus à grande échelle. Les équipes de fiducie et de sécurité de Google s'attaquent à ce sujet de front, en utilisant l'IA pour augmenter nos efforts pour lutter contre les abus, faire respecter nos politiques plus efficacement et s'adapter rapidement à de nouvelles situations ou réclamations.

Nous nous associons également à d'autres membres de l'industrie, partageant la recherche et travaillant ensemble pour contrer les menaces et les abus, y compris le risque de contenu trompeur d'IA. La semaine dernière, nous avons rejoint la Coalition for Content Provenance and Authenticity (C2PA), qui travaille sur un contenu d'identification pour faire la lumière sur la façon dont le contenu généré par l'IA est fabriqué et édité au fil du temps. Cela s'appuie sur nos collaborations inter-industrielles autour de l'IA responsable avec le Frontier Model Forum, le partenariat sur l'IA et d'autres initiatives.

Faire équipe pour défendre l'ordre international fondé sur des règles

La Conférence de sécurité de Munich a résisté à l'épreuve du temps comme un lieu pour relever les défis à la démocratie. Pendant 60 ans, les démocraties ont été confrontées et surmontées ces défis, traitant des changements majeurs - comme celui apporté par l'IA - dans un ensemble. Maintenant, nous avons la chance de nous réunir à nouveau - en tant que gouvernements, entreprises, universitaires et société civile - pour forger de nouveaux partenariats, exploiter le potentiel de l'IA pour le bien et renforcer l'ordre mondial fondé sur des règles.