AI World: Concevoir avec une intimité à l'esprit

L'intelligence artificielle a le pouvoir de tout transformer de nos routines quotidiennes à des progrès médicaux révolutionnaires. Cependant, pour vraiment exploiter le potentiel de l'IA, nous devons aborder son développement avec responsabilité au premier plan.

C'est pourquoi la discussion sur l'IA générative et la vie privée est si cruciale. Nous sommes impatients de contribuer à cette conversation avec les idées de la pointe de l'innovation et de notre implication profonde avec les régulateurs et autres experts.

Dans notre nouveau document de travail politique intitulé «AI génératif et confidentialité», nous défendons les produits de l'IA pour inclure des protections intégrées qui hiérarchisent la sécurité des utilisateurs et la confidentialité dès le départ. Nous suggérons également des stratégies politiques qui s'attaquent aux problèmes de confidentialité tout en permettant à l'IA de prospérer et de bénéficier à la société.

Confidentialité par conception dans l'IA

L'IA tient la promesse de grands avantages pour les individus et la société, mais il peut également amplifier les défis existants et en introduire de nouveaux, comme notre recherche et celle des autres l'ont montré.

Il en va de même pour la vie privée. Il est essentiel d'incorporer des protections qui garantissent la transparence et le contrôle, et d'atténuer les risques comme la divulgation involontaire des informations personnelles.

Cela nécessite un cadre solide du stade de développement au déploiement, enraciné dans des principes éprouvés. Toute organisation développant des outils d'IA devrait avoir une stratégie de confidentialité claire.

Notre approche est façonnée par les pratiques de protection des données de longue date, nos principes de confidentialité et de sécurité, de pratiques d'IA responsables et de nos principes d'IA. Cela signifie que nous mettons en place des garanties de confidentialité robustes et des techniques de minimisation des données, offrant une transparence sur nos pratiques de données et fournir des contrôles qui permettent aux utilisateurs de prendre des décisions éclairées et de gérer leurs informations.

Concentrez-vous sur les applications d'IA pour réduire efficacement les risques

Alors que nous appliquons des principes de confidentialité établis à l'IA générative, il y a des questions importantes à considérer.

Par exemple, comment pratiquerons-nous la minimisation des données lors de la formation de modèles sur de grandes quantités de données? Quelles sont les meilleures façons d'offrir une transparence significative pour des modèles complexes qui répondent aux préoccupations individuelles? Et comment pouvons-nous créer des expériences adaptées à l'âge qui profitent aux adolescents dans un monde axé sur l'IA?

Notre article fournit quelques réflexions initiales sur ces sujets, en se concentrant sur deux phases clés du développement du modèle:

• Formation et développement
• Applications orientées

Pendant la formation et le développement, des données personnelles comme les noms ou les détails biographiques constituent une partie petite mais cruciale des données de formation. Les modèles utilisent ces données pour comprendre comment la langue capture les concepts abstraits sur les relations humaines et le monde qui nous entoure.

Ces modèles ne sont pas des «bases de données» et ils ne sont pas destinés à identifier les individus. En fait, y compris les données personnelles peut aider à réduire les biais - par exemple, en mieux comprendre les noms de diverses cultures - et améliorer la précision et les performances du modèle.

Au niveau de l'application, le risque de confidentialité nuit comme les fuites de données augmente, mais il en va de même pour la possibilité de mettre en œuvre des garanties plus efficaces. Des fonctionnalités telles que les filtres de sortie et la sélection automatique deviennent vitales ici.

Prioriser ces garanties au niveau de l'application n'est pas seulement pratique, mais, nous croyons, la voie la plus efficace à suivre.

Atteindre la vie privée par l'innovation

Bien qu'une grande partie du dialogue de la vie privée de l'IA d'aujourd'hui se concentre sur l'atténuation des risques - et à juste titre, étant donné l'importance de renforcer la confiance dans l'IA - l'IA générative a également le potentiel d'améliorer la confidentialité des utilisateurs. Nous devons également saisir ces opportunités.

L'IA générative aide déjà les organisations à analyser les commentaires de la confidentialité des grandes bases utilisateur et des problèmes de conformité au point. Il ouvre la voie à de nouvelles stratégies de cyber-défense. Les technologies améliorant la confidentialité telles que les données synthétiques et la confidentialité différentielle nous montrent comment offrir des avantages sociétaux plus importants sans compromettre les informations personnelles. Les politiques publiques et les normes de l'industrie devraient encourager - et ne pas entraver par inadvertance - ces développements positifs.

La nécessité de travailler ensemble

Les lois sur la confidentialité sont conçues pour être adaptables, proportionnées et neutres non neutres - qui les ont rendues robustes et durables au fil du temps.

Les mêmes principes s'appliquent à l'ère de l'IA, car nous nous efforçons d'équilibrer de fortes protections de la vie privée avec d'autres droits fondamentaux et objectifs sociaux.

La route à venir nécessitera une coopération à travers la communauté de la vie privée, et Google se consacre à collaborer avec d'autres pour s'assurer que la société générative des profits de l'IA profite de manière responsable.

Vous pouvez lire notre document de travail politique sur l'IA génératif et la confidentialité [ici] (lien vers le papier).