Apple AI enfatiza a privacidade usando dados sintéticos e anônimos

A Apple está intensificando seu jogo no treinamento de modelos de IA com uma abordagem nova que evita coletar ou copiar dados de usuários de iPhones ou Macs. Em um post recente no blog, eles deixaram claro que estão utilizando dados sintéticos e privacidade diferencial para aprimorar recursos como resumos de e-mails, tudo isso sem acessar seus e-mails ou mensagens pessoais.

Para aqueles que optaram pelo programa de Análise de Dispositivos da Apple, aqui está o resumo: os modelos de IA da Apple irão analisar mensagens semelhantes a e-mails sintéticos e compará-las a um pequeno trecho do seu conteúdo real, que permanece seguro no seu dispositivo. O dispositivo então seleciona qual mensagem sintética se alinha melhor com sua amostra e envia informações sobre essa correspondência para a Apple. Fique tranquilo, nenhum dado real do usuário sai do seu dispositivo, e a Apple recebe apenas informações agregadas e gerais.

Esse truque inteligente permite que a Apple aprimore seus modelos para geração de textos mais longos sem jamais tocar no conteúdo real do usuário. É uma reviravolta inteligente no uso prolongado de privacidade diferencial, onde eles adicionam dados aleatórios para manter as identidades individuais protegidas. A Apple vem fazendo isso desde 2016 para entender padrões de uso, mantendo suas promessas de privacidade.

Impulsionando o Genmoji e Outros Recursos de Inteligência da Apple

A Apple já está usando privacidade diferencial para turbinar recursos como o Genmoji. Eles coletam tendências gerais sobre prompts populares sem vincular nenhum prompt a um usuário ou dispositivo específico. No futuro, eles planejam expandir essa magia para outros recursos de Inteligência da Apple, como Image Playground, Image Wand, Memories Creation e Writing Tools.

Com o Genmoji, a Apple envia enquetes anônimas para dispositivos participantes para verificar se certos trechos de prompts foram vistos. Cada dispositivo retorna um sinal ruidoso — parte real, parte randomizado. Dessa forma, apenas os termos mais populares chamam a atenção da Apple, e nenhuma resposta individual pode ser rastreada até você ou seu dispositivo, segundo eles.

Criando Dados Sintéticos para Resumos de E-mails Mais Precisos

Embora esse método tenha sido um sucesso para prompts curtos, a Apple precisou de um novo plano para tarefas mais complexas, como resumir e-mails. Eles criam milhares de mensagens de amostra, transformando-as em 'embeddings' numéricos com base em linguagem, tom e tópico. Seu dispositivo então compara esses embeddings com suas amostras locais. Novamente, apenas as informações da correspondência são compartilhadas, não o conteúdo em si.

A Apple coleta os embeddings sintéticos mais comumente escolhidos pelos dispositivos participantes e os usa para ajustar seus dados de treinamento. Com o tempo, isso ajuda o sistema a gerar e-mails sintéticos mais relevantes e realistas, aumentando a capacidade de IA da Apple em resumos e geração de texto sem comprometer sua privacidade.

Testando as Águas na Versão Beta

A Apple está lançando esse sistema nas versões beta do iOS 18.5, iPadOS 18.5 e macOS 15.5. Segundo Mark Gurman, da Bloomberg, a Apple está tentando resolver problemas no desenvolvimento de IA dessa forma, incluindo atrasos no lançamento de recursos e as consequências de mudanças na liderança da equipe do Siri.

Ainda não está claro se essa abordagem realmente trará melhores resultados de IA, mas é um sinal claro de que a Apple está se esforçando para equilibrar a privacidade do usuário com o desempenho do modelo.