Procesamiento en el dispositivo explicado por TechSpert

# ai # Pixel # Fitbit

Si alguna vez ha recogido un nuevo teléfono Pixel, probablemente haya oído hablar de que el "procesamiento en el dispositivo" es la magia detrás de sus nuevas características. Tome los teléfonos Pixel 9, por ejemplo, características como Pixel Studio y las notas de llamadas ejecutándose "en el dispositivo". Y no son solo teléfonos; Las cámaras de nido, los relojes inteligentes de píxeles y los dispositivos Fitbit están en esta acción de "procesamiento en el dispositivo". Dado lo generalizado que es y las características que impulsa, es claramente un gran problema. Entonces, ¿qué significa exactamente el "procesamiento en el dispositivo"? Bueno, es más o menos lo que parece: el procesamiento ocurre en el dispositivo. Pero para sumergirnos más profundamente, conversamos con Trystan, un veterano de Google de casi 20 años que trabajó en equipos de ingeniería en Android, Google News y Search. Trystan, estabas parte del equipo que desarrolló algunas de las características emocionantes para los nuevos dispositivos Pixel. ¿En qué trabajaste? Recientemente, dirigí un equipo dentro de Android que se centró en combinar las diversas pilas tecnológicas de Google en una experiencia de usuario increíble. Se trata de descubrir cómo construir y enviar estas características. Con la tecnología mejorando constantemente y que se introducen nuevas características, debe parecer un trabajo interminable. ¡Absolutamente! Los últimos años han visto un gran salto en las capacidades generativas de IA. Al principio, la idea de ejecutar modelos de idiomas grandes en dispositivos parecía un sueño lejano, tal vez algo para 2026. Pero la tecnología evolucionó tan rápido que pudimos lanzar características usando Gemini Nano, nuestro modelo en el dispositivo, en el Pixel 8 Pro en diciembre de 2023. Desglosemos "en el procesamiento en desarrollo". ¿Qué significa realmente el "procesamiento"? El procesador principal, o sistema en un chip (SOC), en sus dispositivos, tiene varias unidades de procesamiento diseñadas específicamente para diferentes tareas. Es por eso que escuchará sobre chips como el chip tensor en píxeles que se llaman "sistema en un chip". No es solo un procesador, sino un montón de ellos, junto con la memoria, las interfaces y más, todo en una sola pieza de silicio. Usemos los teléfonos inteligentes de píxeles como ejemplo: tiene la unidad de procesamiento central (CPU) como el "motor" principal; la unidad de procesamiento de gráficos (GPU) para hacer imágenes; Y ahora, la Unidad de Procesamiento de Tensor (TPU), que Google diseñó específicamente para manejar cargas de trabajo AI/ML en el dispositivo. Todos trabajan juntos para hacer las cosas: aka, procesamiento. Por ejemplo, cuando tomas fotos, estás usando todos estos poderes de procesamiento. La CPU ejecuta tareas centrales, la GPU ayuda a representar lo que ve la lente, y en un dispositivo Android premium como un píxel, la TPU funciona para mejorar sus fotos. Entiendo. El procesamiento "en el dispositivo" implica que hay un procesamiento fuera del dispositivo. ¿Dónde sucede eso? El procesamiento fuera del dispositivo ocurre en la nube. Su dispositivo envía una solicitud a través de Internet a los servidores, que realizan la tarea y envían los resultados a su teléfono. Para que esto suceda en el dispositivo, tomamos el gran modelo de aprendizaje automático de la nube, lo hacemos más pequeño y más eficiente, y lo ejecutamos en el sistema operativo y el hardware de su dispositivo. ¿Qué hardware hace que esto sea posible? Nuevos y más poderosos conjuntos de chips. Por ejemplo, el Pixel 9 Pro usa nuestro SOC llamado Tensor G4, que permite a estos teléfonos ejecutar modelos como Gemini Nano y manejar los cálculos de alto rendimiento. Entonces, Tensor está diseñado específicamente para ejecutar Google AI, que alimenta muchas de las nuevas capacidades de AI de Pixel. ¡Exactamente! Y aunque las características generativas de IA son una gran parte de esto, el procesamiento en el dispositivo también hace posible cosas como hacer videos, jugar juegos, edición de fotos HDR y traducción de idiomas, presenta mucho todo lo que haces con tu teléfono. Estas tareas ocurren en su teléfono, no en un servidor. Talkback con Gemini, que analiza imágenes y lee descripciones en voz alta para usuarios ciegos o de baja visión, es un ejemplo de procesamiento en el dispositivo que utiliza el sistema de Tensor, Pixel en un chip. El poder de cálculo de los teléfonos inteligentes de hoy es increíble. Son miles de veces más rápidas que las computadoras tempranas de alto rendimiento, que solían llenar habitaciones enteras. Esas computadoras antiguas eran la vanguardia para el análisis de datos, el procesamiento de imágenes, la detección de anomalías e investigación de IA temprana. Ahora, podemos hacer todo esto en nuestros dispositivos, abriendo nuevas oportunidades para características útiles. ¿El procesamiento en el dispositivo es mejor que fuera del dispositivo? No necesariamente. Si utilizara la búsqueda completamente en el dispositivo, sería lento o limitado porque buscar en la web es como encontrar una aguja en un pajar. ¡Todo el índice web no puede caber en su teléfono! En su lugar, la búsqueda utiliza la nube y nuestros centros de datos para acceder a billones de páginas web. Pero para tareas más específicas, el procesamiento en el dispositivo es realmente útil. Es más rápido porque no hay latencia, y funciona sin una conexión a Internet, lo que lo hace más confiable. Además, dado que el chip AI está en su bolsillo, las aplicaciones pueden usar estas capacidades LLM de forma gratuita. Ambos tienen sus ventajas: la nube tiene modelos más potentes y puede almacenar muchos datos, como sus fotos y videos. También admite acciones como la búsqueda de bases de datos masivas, como Drive, Gmail y Google Photos. Ya estoy impresionado con lo que mi píxel puede hacer, pero parece que solo va a mejorar. Sí, los modelos que usamos para estas tareas complejas en dispositivos Android se están volviendo más capaces. Pero no se trata solo de una mejor tecnología; También nos centramos en lo que realmente beneficiará a las personas. No solo presentamos productos porque el procesamiento en el dispositivo puede manejarlo; Queremos asegurarnos de que es algo que la gente quiere usar en su vida cotidiana.

Artículo relacionado

comentario (25)