Apple AI enfatiza la privacidad utilizando datos sintéticos y anónimos

Apple está intensificando su estrategia en el entrenamiento de modelos de IA con un enfoque nuevo que evita recolectar o copiar datos de usuarios de iPhones o Macs. En una reciente publicación de blog, han dejado claro que se mantienen en el uso de datos sintéticos y privacidad diferencial para mejorar funciones como los resúmenes de correo electrónico, todo sin acceder a tus correos o mensajes personales.

Para aquellos que han optado por el programa de Análisis de Dispositivos de Apple, aquí está la información: los modelos de IA de Apple analizarán mensajes similares a correos electrónicos sintéticos y los compararán con un pequeño fragmento de tu contenido real, que permanece seguro en tu dispositivo. Luego, el dispositivo selecciona qué mensaje sintético se asemeja más a tu muestra y envía información sobre esa coincidencia a Apple. Puedes estar tranquilo, ningún dato real del usuario sale de tu dispositivo, y Apple solo recibe información general y agregada.

Este ingenioso método permite a Apple fortalecer sus modelos para la generación de textos más largos sin tocar el contenido real de los usuarios. Es un giro astuto a su uso prolongado de la privacidad diferencial, donde añaden datos aleatorios para mantener las identidades individuales protegidas. Apple ha estado utilizando este enfoque desde 2016 para entender patrones de uso, todo mientras cumple con sus promesas de privacidad.

Potenciando Genmoji y otras funciones de Apple Intelligence

Apple ya está utilizando la privacidad diferencial para mejorar funciones como Genmoji. Recopilan tendencias generales sobre prompts populares sin asociar ningún prompt a un usuario o dispositivo específico. De cara al futuro, planean extender esta magia a otras funciones de Apple Intelligence, como Image Playground, Image Wand, Memories Creation y Writing Tools.

Con Genmoji, Apple envía encuestas anónimas a los dispositivos participantes para verificar si ciertos fragmentos de prompts han sido vistos. Cada dispositivo devuelve una señal con ruido—parte real, parte aleatoria. De esta manera, solo los términos más populares captan la atención de Apple, y ninguna respuesta individual puede rastrearse hasta ti o tu dispositivo, según afirman.

Creando datos sintéticos para resúmenes de correo electrónico más precisos

Aunque este método ha sido exitoso para prompts cortos, Apple necesitaba un nuevo plan para tareas más complejas como resumir correos electrónicos. Generan miles de mensajes de muestra, convirtiéndolos en "embeddings" numéricos basados en el lenguaje, tono y tema. Tu dispositivo luego compara estos embeddings con tus muestras locales. Una vez más, solo se comparte la información de la coincidencia, no el contenido en sí.

Apple recopila los embeddings sintéticos más comúnmente seleccionados de los dispositivos participantes y los utiliza para ajustar sus datos de entrenamiento. Con el tiempo, esto ayuda al sistema a generar correos electrónicos sintéticos más relevantes y realistas, mejorando la capacidad de IA de Apple en la resumida y generación de texto sin poner en riesgo tu privacidad.

Probando el terreno en versión beta

Apple está implementando este sistema en las versiones beta de iOS 18.5, iPadOS 18.5 y macOS 15.5. Según Mark Gurman de Bloomberg, Apple está intentando abordar los contratiempos en el desarrollo de IA de esta manera, incluyendo retrasos en el lanzamiento de funciones y las consecuencias de los cambios de liderazgo en el equipo de Siri.

Aún está por verse si este enfoque realmente dará frutos en términos de mejores resultados de IA, pero es una señal clara de que Apple está esforzándose por equilibrar la privacidad del usuario con el rendimiento del modelo.