AI World: Diseño con privacidad en mente

La inteligencia artificial tiene el poder de transformar todo, desde nuestras rutinas diarias hasta avances médicos innovadores. Sin embargo, para realmente aprovechar el potencial de la IA, debemos abordar su desarrollo con responsabilidad a la vanguardia.

Es por eso que la discusión sobre la IA y la privacidad generativas es tan crucial. Estamos ansiosos por contribuir a esta conversación con ideas desde la vanguardia de la innovación y nuestra profunda participación con los reguladores y otros expertos.

En nuestro nuevo documento de trabajo de política titulado "AI y privacidad generativos", abogamos por los productos de IA para incluir protecciones incorporadas que prioricen la seguridad y la privacidad del usuario desde el principio. También sugerimos estrategias de política que aborden los problemas de privacidad al tiempo que permiten que AI florezca y beneficie a la sociedad.

Privacidad por diseño en IA

AI tiene la promesa de grandes beneficios para las personas y la sociedad, sin embargo, también puede amplificar los desafíos existentes e introducir otros nuevos, como lo han demostrado nuestra investigación y la de los demás.

Lo mismo ocurre con la privacidad. Es esencial incorporar protecciones que garanticen transparencia y control, y mitigar los riesgos como la divulgación no deseada de la información personal.

Esto requiere un marco sólido desde la etapa de desarrollo hasta el despliegue, arraigado en principios probados por el tiempo. Cualquier organización que desarrolle herramientas de IA debe tener una estrategia de privacidad clara.

Nuestro enfoque está conformado con prácticas de protección de datos de larga data, nuestros principios de privacidad y seguridad, prácticas responsables de IA y nuestros principios de IA. Esto significa que establecemos salvaguardas de privacidad sólidas y técnicas de minimización de datos, ofrecemos transparencia sobre nuestras prácticas de datos y proporcionan controles que permitan a los usuarios tomar decisiones informadas y administrar su información.

Concéntrese en aplicaciones de IA para reducir efectivamente los riesgos

A medida que aplicamos los principios de privacidad establecidos a la IA generativa, hay preguntas importantes a considerar.

Por ejemplo, ¿cómo practicamos la minimización de datos al capacitar modelos en grandes cantidades de datos? ¿Cuáles son las mejores formas de ofrecer una transparencia significativa para modelos complejos que aborden las preocupaciones individuales? ¿Y cómo podemos crear experiencias apropiadas para la edad que beneficien a los adolescentes en un mundo impulsado por la IA?

Nuestro artículo proporciona algunos pensamientos iniciales sobre estos temas, centrándose en dos fases clave del desarrollo del modelo:

• Capacitación y desarrollo
• Aplicaciones orientadas al usuario

Durante la capacitación y el desarrollo, los datos personales como nombres o detalles biográficos forman una parte pequeña pero crucial de los datos de capacitación. Los modelos usan estos datos para comprender cómo el lenguaje captura conceptos abstractos sobre las relaciones humanas y el mundo que nos rodea.

Estos modelos no son "bases de datos" ni están destinados a identificar a las personas. De hecho, incluir los datos personales puede ayudar a reducir el sesgo, por ejemplo, comprender mejor los nombres de varias culturas, y mejorar la precisión y el rendimiento del modelo.

En el nivel de aplicación, el riesgo de daños por privacidad, como la fuga de datos, aumenta, pero también lo hace la oportunidad de implementar salvaguardas más efectivas. Las características como los filtros de salida y la delicadeza automática se vuelven vitales aquí.

Priorizar estas salvaguardas a nivel de aplicación no solo es práctico, sino que, creemos, la forma más efectiva a seguir.

Lograr la privacidad a través de la innovación

Si bien gran parte del diálogo de privacidad de IA actual se centra en la mitigación de riesgos, y con razón, dada la importancia de generar confianza en la IA, la IA generativa también tiene el potencial de mejorar la privacidad del usuario. Deberíamos aprovechar estas oportunidades también.

La IA generativa ya está ayudando a las organizaciones a analizar los comentarios de la privacidad de las grandes bases de usuarios y detectar problemas de cumplimiento. Está allanando el camino para nuevas estrategias de defensa cibernética. Las tecnologías de mejora de la privacidad, como los datos sintéticos y la privacidad diferencial, nos muestran cómo proporcionar mayores beneficios sociales sin comprometer la información personal. Las políticas públicas y los estándares de la industria deben fomentar, y no obstaculizar inadvertidamente, estos desarrollos positivos.

La necesidad de trabajar juntos

Las leyes de privacidad están diseñadas para ser adaptables, proporcionales y neutrales en la tecnología, calidades que las han hecho robustas y duraderas con el tiempo.

Los mismos principios se aplican en la era de la IA, a medida que nos esforzamos por equilibrar las fuertes protecciones de privacidad con otros derechos fundamentales y objetivos sociales.

El camino por delante requerirá cooperación en toda la comunidad de privacidad, y Google se dedica a colaborar con otros para garantizar que la IA generativa beneficie a la sociedad de manera responsable.

Puede leer nuestro documento de trabajo de política sobre IA generativa y privacidad [aquí] (enlace al documento).