Apple AI met l'accent sur la confidentialité à l'aide de données synthétiques et anonymisées

Apple intensifie ses efforts dans l'entraînement des modèles d'IA avec une nouvelle approche qui évite de collecter ou de copier les données des utilisateurs depuis les iPhones ou les Macs. Dans un récent article de blog, ils ont clairement indiqué qu'ils s'en tiennent aux données synthétiques et à la confidentialité différentielle pour améliorer des fonctionnalités comme les résumés d'emails, sans accéder à vos emails ou messages personnels.

Pour ceux qui ont adhéré au programme Device Analytics d'Apple, voici les détails : les modèles d'IA d'Apple analyseront des messages semblables à des emails synthétiques et les compareront à un petit extrait de votre contenu réel, qui reste sécurisé sur votre appareil. L'appareil sélectionne ensuite le message synthétique qui correspond le mieux à votre échantillon et envoie des informations sur cette correspondance à Apple. Soyez rassuré, aucune donnée réelle de l'utilisateur ne quitte votre appareil, et Apple ne reçoit que des informations agrégées et globales.

Cette astuce ingénieuse permet à Apple d'améliorer ses modèles pour la génération de textes plus longs sans jamais toucher au contenu réel des utilisateurs. C'est une variation astucieuse de leur utilisation de longue date de la confidentialité différentielle, où ils ajoutent des données aléatoires pour préserver l'anonymat des individus. Apple utilise cette méthode depuis 2016 pour comprendre les tendances d'utilisation, tout en respectant ses engagements en matière de confidentialité.

Amélioration de Genmoji et autres fonctionnalités d'Apple Intelligence

Apple utilise déjà la confidentialité différentielle pour optimiser des fonctionnalités comme Genmoji. Ils collectent des tendances générales sur les prompts populaires sans associer un prompt spécifique à un utilisateur ou un appareil particulier. À l'avenir, ils prévoient d'étendre cette magie à d'autres fonctionnalités d'Apple Intelligence, telles que Image Playground, Image Wand, Memories Creation et Writing Tools.

Avec Genmoji, Apple envoie des sondages anonymes aux appareils participants pour vérifier si certains fragments de prompts ont été vus. Chaque appareil renvoie un signal brouillé, partiellement réel, partiellement aléatoire. Ainsi, seuls les termes les plus populaires attirent l'attention d'Apple, et aucune réponse individuelle ne peut être retracée jusqu'à vous ou votre appareil, selon leurs affirmations.

Création de données synthétiques pour des résumés d'emails plus précis

Bien que cette méthode ait été efficace pour les prompts courts, Apple a dû concevoir une nouvelle stratégie pour des tâches plus complexes comme le résumé d'emails. Ils génèrent des milliers de messages d'exemple, les transformant en "embeddings" numériques basés sur la langue, le ton et le sujet. Votre appareil compare ensuite ces embeddings à vos échantillons locaux. Encore une fois, seule l'information sur la correspondance est partagée, pas le contenu lui-même.

Apple collecte les embeddings synthétiques les plus fréquemment choisis par les appareils participants et les utilise pour affiner leurs données d'entraînement. Avec le temps, cela aide le système à produire des emails synthétiques plus pertinents et réalistes, renforçant les capacités d'IA d'Apple en matière de résumé et de génération de texte sans compromettre votre confidentialité.

Test en version bêta

Apple déploie ce système dans les versions bêta d'iOS 18.5, iPadOS 18.5 et macOS 15.5. Selon Mark Gurman de Bloomberg, Apple tente ainsi de résoudre les problèmes de développement de l'IA, y compris les retards dans le lancement des fonctionnalités et les conséquences des changements de direction dans l'équipe Siri.

Il reste incertain si cette approche portera vraiment ses fruits en termes de meilleures performances d'IA, mais c'est un signe évident qu'Apple s'efforce de concilier la confidentialité des utilisateurs avec les performances des modèles.