Processamento no dispositivo explicado por Techspert

# ai # Pixel # Fitbit

Se você já pegou um novo telefone pixel, provavelmente já ouviu falar sobre o "processamento do dispositivo", sendo a mágica por trás de seus novos recursos legais. Veja os telefones Pixel 9, por exemplo - características como o Pixel Studio e as anotações de chamada "no dispositivo". E não são apenas telefones; Câmeras de ninho, relógios inteligentes de pixel e dispositivos Fitbit estão todos nesta ação de "processamento no dispositivo". Dado o quão generalizado é e os recursos que ele alimenta, é claramente um grande negócio. Então, o que exatamente significa "processamento no dispositivo"? Bem, é praticamente o que parece - o processamento acontece no dispositivo. Mas, para se aprofundar, conversamos com o Trystan Up, um veterano do Google de quase 20 anos que trabalhou em equipes de engenharia no Android, Google News e pesquisa. Trystan, você fez parte da equipe que desenvolveu alguns dos recursos interessantes dos novos dispositivos Pixel. Em que você trabalhou? Recentemente, liderei uma equipe dentro do Android focada em misturar várias pilhas de tecnologia do Google em uma incrível experiência do usuário. Trata -se de descobrir como construir e enviar esses recursos. Com a tecnologia melhorando constantemente e os novos recursos sendo introduzidos, deve parecer um trabalho interminável. Absolutamente! Nos últimos anos, houve um grande salto nas capacidades generativas da IA. No começo, a idéia de executar grandes modelos de linguagem em dispositivos parecia um sonho distante-talvez algo para 2026. Mas a tecnologia evoluiu tão rapidamente que fomos capazes de lançar recursos usando o Gemini Nano, nosso modelo no dispositivo, no Pixel 8 Pro em dezembro de 2023. Vamos desmoronar "Processamento em decoração" ". O que o "processamento" realmente significa? O processador principal, ou sistema no chip (SOC), em seus dispositivos, possui várias unidades de processamento projetadas especificamente para diferentes tarefas. É por isso que você ouvirá sobre fichas como o chip de tensor em pixels chamado de "sistema em um chip". Não é apenas um processador, mas um monte deles, juntamente com memória, interfaces e muito mais, tudo em um pedaço de silício. Vamos usar os smartphones Pixel como exemplo: você tem a unidade de processamento central (CPU) como o principal "mecanismo"; a unidade de processamento gráfico (GPU) para renderizar visuais; E agora, a Unidade de Processamento do Tensor (TPU), que o Google projetou especificamente para lidar com cargas de trabalho AI/ML no dispositivo. Todos eles trabalham juntos para fazer as coisas - aka, processando. Por exemplo, quando você tira fotos, você está usando todos esses poderes de processamento. A CPU executa tarefas principais, a GPU ajuda a renderizar o que a lente vê e, em um dispositivo Android premium como um pixel, a TPU trabalha para aprimorar suas fotos. Entendi. O processamento "no dispositivo" implica que há processamento fora do dispositivo. Onde isso acontece? O processamento fora do dispositivo ocorre na nuvem. Seu dispositivo envia uma solicitação pela Internet para servidores, que executam a tarefa e enviam os resultados de volta ao seu telefone. Para que isso aconteça no dispositivo, pegamos o grande modelo de aprendizado de máquina da nuvem, o tornamos menor e mais eficiente e o executamos no sistema operacional e no hardware do seu dispositivo. Que hardware torna isso possível? Chipsets novos e mais poderosos. Por exemplo, o Pixel 9 Pro usa o nosso SOC chamado Tensor G4, que permite que esses telefones executem modelos como Gemini Nano e lidam com cálculos de alto desempenho. Portanto, o Tensor foi projetado especificamente para executar o Google AI, que alimenta muitos novos recursos de pixel da GEN AI. Exatamente! E, embora os recursos generativos da IA ​​sejam uma grande parte, o processamento no dispositivo também torna possíveis coisas como renderizar vídeo, jogos, edição de fotos em HDR e tradução de idiomas-muito tudo o que você faz com o seu telefone. Essas tarefas acontecem no seu telefone, não em um servidor. O Talkback com a Gemini, que analisa imagens e lê descrições em voz alta para usuários cegos ou de baixa visão, é um exemplo de processamento no dispositivo que usa tensor, sistema de pixel em um chip. O poder de computação dos smartphones de hoje é incrível. Eles são milhares de vezes mais rápida que os computadores iniciais de alto desempenho, que costumavam preencher quartos inteiros. Esses computadores antigos eram a vanguarda para análise de dados, processamento de imagens, detecção de anomalia e pesquisa precoce da IA. Agora, podemos fazer tudo isso em nossos dispositivos, abrindo novas oportunidades para recursos úteis. O processamento no dispositivo é melhor do que fora do dispositivo? Não necessariamente. Se você usou a pesquisa totalmente no dispositivo, seria lento ou limitado, porque pesquisar na web é como encontrar uma agulha em um palheiro. Todo o índice da Web não pode caber no seu telefone! Em vez disso, a pesquisa usa a nuvem e nossos data centers para acessar trilhões de páginas da web. Mas para tarefas mais específicas, o processamento no dispositivo é realmente útil. É mais rápido porque não há latência e funciona sem uma conexão com a Internet, tornando -a mais confiável. Além disso, como o chip de IA está no seu bolso, os aplicativos podem usar esses recursos de LLM gratuitamente. Ambos têm suas vantagens: a nuvem tem modelos mais poderosos e pode armazenar muitos dados, como suas fotos e vídeos. Ele também suporta ações como pesquisar bancos de dados enormes, como Drive, Gmail e Google Photos. Já estou impressionado com o que meu pixel pode fazer, mas parece que só vai melhorar. Sim, os modelos que usamos para essas tarefas complexos nos dispositivos Android estão ficando mais capazes. Mas não se trata apenas de uma melhor tecnologia; Também nos concentramos no que realmente beneficiará as pessoas. Não apenas introduzimos produtos porque o processamento no dispositivo pode lidar com isso; Queremos ter certeza de que é algo que as pessoas querem usar em suas vidas cotidianas.

Artigo relacionado

Comentários (27)