Ai World: projetando com privacidade em mente

A inteligência artificial tem o poder de transformar tudo, desde nossas rotinas diárias até avanços médicos inovadores. No entanto, para realmente explorar o potencial da IA, devemos abordar seu desenvolvimento com responsabilidade na vanguarda.

É por isso que a discussão sobre IA generativa e privacidade é tão crucial. Estamos ansiosos para contribuir com essa conversa com idéias da vanguarda da inovação e nosso profundo envolvimento com reguladores e outros especialistas.

Em nosso novo documento de trabalho de políticas intitulado "AI e privacidade generativa", defendemos os produtos de IA para incluir proteções internas que priorizam a segurança e a privacidade do usuário desde o início. Também sugerimos estratégias políticas que abordam questões de privacidade, enquanto ainda permitem que a IA floresça e beneficie a sociedade.

Privacidade por design na IA

A IA tem a promessa de grandes benefícios para indivíduos e sociedade, mas também pode ampliar os desafios existentes e apresentar novos, como nossa pesquisa e a de outras pessoas mostrou.

O mesmo vale para a privacidade. É essencial incorporar proteções que garantem transparência e controle e mitigem riscos como a divulgação não intencional de informações pessoais.

Isso requer uma estrutura sólida da fase de desenvolvimento até a implantação, enraizada em princípios testados pelo tempo. Qualquer organização que desenvolva ferramentas de IA deve ter uma estratégia de privacidade clara.

Nossa abordagem é moldada por práticas de proteção de dados de longa data, nossos princípios de privacidade e segurança, práticas responsáveis ​​de IA e nossos princípios de IA. Isso significa que implementamos salvaguardas robustas de privacidade e técnicas de minimização de dados, oferecemos transparência sobre nossas práticas de dados e fornecemos controles que permitem aos usuários tomar decisões informadas e gerenciar suas informações.

Concentre -se nos aplicativos de IA para reduzir efetivamente os riscos

Ao aplicarmos os princípios de privacidade estabelecidos à IA generativa, há questões importantes a serem consideradas.

Por exemplo, como praticamos a minimização de dados ao treinar modelos em grandes quantidades de dados? Quais são as melhores maneiras de oferecer transparência significativa para modelos complexos que abordam preocupações individuais? E como podemos criar experiências apropriadas à idade que beneficiam os adolescentes em um mundo orientado a IA?

Nosso artigo fornece alguns pensamentos iniciais sobre esses tópicos, concentrando -se em duas fases -chave do desenvolvimento de modelos:

• Treinamento e desenvolvimento
• Aplicativos voltados para o usuário

Durante o treinamento e o desenvolvimento, dados pessoais como nomes ou detalhes biográficos formam uma parte pequena, mas crucial dos dados de treinamento. Os modelos usam esses dados para entender como a linguagem captura conceitos abstratos sobre as relações humanas e o mundo ao nosso redor.

Esses modelos não são "bancos de dados" nem devem identificar indivíduos. De fato, a inclusão de dados pessoais pode ajudar a reduzir o viés - por exemplo, para entender melhor os nomes de várias culturas - e melhorar a precisão e o desempenho do modelo.

No nível do aplicativo, o risco de prejudicar a privacidade como o vazamento de dados aumenta, mas a oportunidade de implementar salvaguardas mais eficazes. Recursos como filtros de saída e delicios automáticos tornam-se vitais aqui.

Priorizar essas salvaguardas no nível do aplicativo não é apenas prático, mas, acreditamos, o caminho mais eficaz a seguir.

Alcançar a privacidade por meio da inovação

Embora grande parte do diálogo de privacidade da IA ​​de hoje se concentre na mitigação de riscos - e com razão, dada a importância de criar confiança na IA - a IA generativa também tem o potencial de melhorar a privacidade do usuário. Deveríamos aproveitar essas oportunidades também.

A IA generativa já está ajudando as organizações a analisar o feedback da privacidade de grandes bases de usuários e a identificar problemas de conformidade. Está abrindo caminho para novas estratégias de defesa cibernética. Tecnologias de aprimoramento da privacidade, como dados sintéticos e privacidade diferencial, estão nos mostrando como fornecer maiores benefícios sociais sem comprometer informações pessoais. As políticas públicas e os padrões da indústria devem incentivar - e não inadvertidamente impedir - esses desenvolvimentos positivos.

A necessidade de trabalhar juntos

As leis de privacidade são projetadas para serem adaptáveis, proporcionadas e neutrais de tecnologia-qualidades que as tornaram robustas e duradouras ao longo do tempo.

Os mesmos princípios se aplicam na era da IA, à medida que nos esforçamos para equilibrar fortes proteções de privacidade com outros direitos fundamentais e objetivos sociais.

O caminho a seguir exigirá cooperação em toda a comunidade de privacidade, e o Google se dedica a colaborar com outras pessoas para garantir que a IA generativa beneficie a sociedade com responsabilidade.

Você pode ler nosso documento de trabalho de política sobre IA e privacidade generativa [aqui] (link para papel).