"Rapport de responsabilité de l'AI 2024 publié"

Il y a deux ans, nous avons partagé notre vision pour faire avancer l'IA au bénéfice de la société et stimuler l'innovation. Il y a quelques semaines à peine, nous avons publié notre mise à jour 2024, mettant en avant les progrès réalisés. Des modèles de pointe qui stimulent la créativité aux percées pilotées par l'IA dans la biologie, la recherche en santé et les neurosciences, nous faisons des vagues.

Mais être audacieux avec l'IA signifie être responsable dès le départ. C'est pourquoi notre approche de l'IA a toujours consisté à comprendre et à aborder son impact à grande échelle sur les individus. Dès 2018, nous avons été parmi les premiers à établir des principes pour l'IA, et nous publions un rapport annuel de transparence depuis 2019. Nous ajustons constamment nos politiques, pratiques et cadres pour rester à jour.

Rapport 2024 sur les progrès en matière d'IA responsable

Notre sixième rapport annuel sur les progrès en matière d'IA responsable explore la manière dont nous gérons les risques liés à l'IA tout au long du processus de développement. Il met en lumière les avancées réalisées au cours de l'année écoulée dans la mise en place de structures de gouvernance pour nos lancements de produits IA.

Nous investissons plus de ressources que jamais dans la recherche et les produits IA qui aident les individus et la société, ainsi que dans la sécurité de l'IA et l'identification des risques potentiels.

Le rapport de l'année dernière a mis en lumière plus de 300 articles de recherche de nos équipes sur la responsabilité et la sécurité, des mises à jour de nos politiques IA, ainsi que ce que nous avons appris des tests de sécurité (red teaming) et des évaluations par rapport aux critères de sécurité, de confidentialité et de protection des données. Nous avons également progressé dans l'atténuation des risques pour différents lancements d'IA, avec un meilleur réglage de la sécurité, des filtres, des contrôles de sécurité et de confidentialité, l'utilisation de la technologie de provenance dans nos produits, et la promotion d'une plus grande littératie en IA. Tout au long de 2024, nous avons également soutenu la communauté IA au sens large avec des financements, des outils et le développement de normes, comme détaillé dans le rapport.

Mise à jour de notre cadre de sécurité pour les frontières

À mesure que l'IA évolue, de nouvelles capacités peuvent engendrer de nouveaux risques. C'est pourquoi nous avons lancé l'année dernière la première version de notre cadre de sécurité pour les frontières — un ensemble de protocoles pour nous aider à rester vigilants face aux risques potentiels des modèles d'IA de pointe puissants. Nous avons collaboré avec des experts de l'industrie, du milieu académique et des gouvernements pour mieux comprendre ces risques, comment les tester et comment les atténuer.

Nous avons également mis en œuvre ce cadre dans nos processus de sécurité et de gouvernance de Google DeepMind pour évaluer les modèles de pointe comme Gemini 2.0. Aujourd'hui, nous publions une version mise à jour du cadre de sécurité pour les frontières, qui inclut :

• Recommandations pour une sécurité renforcée : identifier les domaines où nous devons renforcer nos efforts pour prévenir les fuites de données.
• Procédure d'atténuation pour le déploiement : se concentrer sur la prévention de l'utilisation abusive des capacités critiques des systèmes.
• Risque d'alignement trompeur : aborder le risque qu'un système autonome compromette intentionnellement le contrôle humain.

Vous pouvez en apprendre davantage sur le blog de Google DeepMind.

Mise à jour des principes de l'IA

Depuis la première publication de nos principes d'IA en 2018, la technologie de l'IA progresse à une vitesse fulgurante. Aujourd'hui, des milliards de personnes utilisent l'IA dans leur vie quotidienne. Elle est devenue une technologie incontournable, une plateforme que d'innombrables organisations et individus utilisent pour créer des applications. L'IA est passée d'un sujet de laboratoire de niche à une technologie aussi répandue que les téléphones mobiles et l'internet, avec de nombreuses utilisations bénéfiques pour la société et les individus dans le monde entier, soutenue par un écosystème florissant de développeurs IA.

Disposer de principes de base communs est essentiel à cette évolution. Ce ne sont pas seulement les entreprises d'IA et les institutions académiques ; nous constatons des progrès sur les principes de l'IA à l'échelle mondiale. Le G7, l'Organisation internationale de normalisation et divers pays démocratiques ont tous publié des cadres pour guider le développement et l'utilisation sécurisés de l'IA. De plus en plus, les organisations et les gouvernements utilisent ces normes communes pour déterminer comment construire, réguler et déployer cette technologie en évolution — notre rapport sur les progrès en matière d'IA responsable, par exemple, suit désormais le cadre de gestion des risques NIST des États-Unis. Notre expérience et nos recherches au fil des ans, ainsi que les informations sur les menaces, l'expertise et les bonnes pratiques que nous avons partagées avec d'autres entreprises d'IA, nous ont permis de mieux comprendre le potentiel et les risques de l'IA.

Il y a une course mondiale pour le leadership en IA dans un paysage géopolitique de plus en plus complexe. Nous pensons que les démocraties devraient ouvrir la voie dans le développement de l'IA, guidées par des valeurs fondamentales telles que la liberté, l'égalité et le respect des droits humains. Et nous estimons que les entreprises, les gouvernements et les organisations qui partagent ces valeurs devraient collaborer pour créer une IA qui protège les individus, stimule la croissance mondiale et soutient la sécurité nationale.

Dans cet esprit, nous mettons à jour nos principes d'IA pour nous concentrer sur trois piliers fondamentaux :

• Innovation audacieuse : Nous développons l'IA pour aider, autonomiser et inspirer les individus dans presque tous les domaines, stimuler le progrès économique, améliorer les vies, permettre des percées scientifiques et relever les plus grands défis de l'humanité.
• Développement et déploiement responsables : Nous reconnaissons que l'IA, en tant que technologie transformatrice émergente, apporte de nouvelles complexités et risques. C'est pourquoi nous nous engageons à poursuivre l'IA de manière responsable tout au long du cycle de développement et de déploiement — de la conception aux tests, au déploiement et à l'itération — en apprenant à mesure que l'IA progresse et que ses utilisations évoluent.
• Progrès collaboratif, ensemble : Nous apprenons des autres et construisons une technologie qui permet à d'autres d'utiliser l'IA de manière positive.

Vous pouvez consulter l'intégralité de nos principes d'IA sur AI.google.

Guidés par nos principes d'IA, nous continuerons à nous concentrer sur la recherche et les applications d'IA alignées avec notre mission, notre orientation scientifique et nos domaines d'expertise, tout en restant cohérents avec les principes largement acceptés du droit international et des droits humains — en évaluant toujours les travaux spécifiques en pesant soigneusement si les bénéfices l'emportent largement sur les risques potentiels. Nous examinerons également si nos engagements nécessitent une recherche et un développement sur mesure ou peuvent s'appuyer sur une technologie générale largement disponible. Ces évaluations sont cruciales alors que l'IA est de plus en plus développée par de nombreuses organisations et gouvernements pour des utilisations dans des domaines comme la santé, la science, la robotique, la cybersécurité, les transports, la sécurité nationale, l'énergie, le climat, et plus encore.

Bien sûr, en plus des principes, nous continuons à avoir des politiques spécifiques aux produits et des conditions d'utilisation claires qui incluent des interdictions comme l'utilisation illégale de nos services.

L'opportunité à venir

Nous savons à quelle vitesse la technologie sous-jacente — et le débat autour de l'avancement, du déploiement et des utilisations de l'IA — continuera d'évoluer, et nous continuerons à adapter et à affiner notre approche à mesure que nous apprendrons tous avec le temps.

À mesure que nous voyons l'AGI, en particulier, se préciser, les implications sociétales deviennent incroyablement profondes. Il ne s'agit pas seulement de développer une IA puissante ; il s'agit de construire la technologie la plus transformatrice de l'histoire humaine, de l'utiliser pour résoudre les plus grands défis de l'humanité, et de s'assurer que les bonnes garanties et gouvernance sont en place, pour le bénéfice du monde. Nous continuerons à partager nos progrès et nos découvertes sur ce voyage, et nous nous attendons à faire évoluer notre réflexion à mesure que nous nous rapprochons de l'AGI.

À mesure que nous avançons, nous croyons que les améliorations apportées au cours de l'année dernière à notre gouvernance et à nos autres processus, notre nouveau cadre de sécurité pour les frontières, et nos principes d'IA nous positionnent bien pour la prochaine phase de transformation de l'IA. L'opportunité de l'IA à aider et améliorer la vie des gens dans le monde entier est ce qui nous motive finalement dans ce travail, et nous continuerons à poursuivre notre approche audacieuse, responsable et collaborative de l'IA.