Verarbeitung von On-Device-Verarbeitung von TechSpert erklärt

# ai # Pixel # Fitbit

Wenn Sie jemals ein neues Pixel-Telefon aufgenommen haben, haben Sie wahrscheinlich von "On-Device-Verarbeitung" gehört, die die Magie hinter seinen coolen neuen Funktionen ist. Nehmen Sie zum Beispiel die Pixel 9 -Telefone - featuriert wie Pixel Studio und rufen Sie Notizen auf "auf dem Gerät". Und es sind nicht nur Telefone; Nestkameras, Pixel-Smartwatches und Fitbit-Geräte sind alle in dieser Aktion "On-Device-Verarbeitung". Angesichts der weit verbreiteten Funktion und der Merkmale, die es macht, ist es eindeutig eine große Sache. Was genau bedeutet "On-Device-Verarbeitung"? Nun, es ist so ziemlich das, wonach es sich anhört - die Verarbeitung findet direkt auf dem Gerät statt. Um tiefer zu tauchen, unterhielten wir uns mit Trystan Uppstill, einem von fast 20 -jährigen Google -Veteranen, der in technischen Teams in Android, Google News und Search gearbeitet hat. Trystan, Sie waren Teil des Teams, das einige der aufregenden Funktionen für die neuen Pixel -Geräte entwickelte. Woran hast du gearbeitet? Kürzlich habe ich ein Team innerhalb von Android geführt, das darauf konzentrierte, die verschiedenen Tech -Stapel von Google zu einer erstaunlichen Benutzererfahrung zu mischen. Es geht darum, herauszufinden, wie man diese Funktionen baut und versendet. Da sich die Technologie ständig verbessert und neue Funktionen eingeführt werden, muss sie sich wie ein unendlicher Job anfühlen. Absolut! In den letzten Jahren hat sich die generativen KI -Fähigkeiten ein großer Sprung verzeichnet. Zunächst schien die Idee, große Sprachmodelle auf Geräten auszuführen, ein feiner Traum-vielleicht für 2026. Aber die Technologie entwickelte sich so schnell, dass wir mit Gemini Nano, unserem Modell für das Gerät, auf dem Pixel 8 Pro im Dezember 2023 in der Lage waren, Funktionen mit Gemini Nano zu starten. Was bedeutet "Verarbeitung" tatsächlich? Der Hauptprozessor oder System-auf-A-Chip (SOC) in Ihren Geräten verfügt über mehrere Verarbeitungseinheiten, die speziell für verschiedene Aufgaben entworfen wurden. Deshalb werden Sie von Chips wie dem Tensor-Chip in Pixeln hören, die als "System-on-a-Chip" bezeichnet werden. Es ist nicht nur ein Prozessor, sondern ein paar von ihnen, zusammen mit Erinnerung, Schnittstellen und mehr auf einem Stück Silizium. Verwenden wir Pixel -Smartphones als Beispiel: Sie haben die zentrale Verarbeitungseinheit (CPU) als Hauptmotor. die Grafikverarbeitungseinheit (GPU) zum Rendern von Visuals; Und jetzt die Tensor Processing Unit (TPU), die Google speziell für die Verarbeitung von AI/ML -Workloads auf dem Gerät entwickelt hat. Sie alle arbeiten zusammen, um Dinge zu erledigen - Aka, Verarbeitung. Wenn Sie beispielsweise Fotos machen, verwenden Sie alle diese Verarbeitungskräfte. Die CPU fährt Kernaufgaben aus, die GPU hilft, das zu verhindern, was das Objektiv sieht, und auf einem Premium -Android -Gerät wie einem Pixel arbeitet die TPU, um Ihre Fotos zu verbessern. Habe es. Die Verarbeitung von "On-Device" impliziert, dass die Verarbeitung außerhalb des Geräts vorhanden ist. Wo passiert das? Die Verarbeitung außerhalb des Geräts erfolgt in der Cloud. Ihr Gerät sendet eine Anfrage über das Internet an Server, die die Aufgabe ausführen und die Ergebnisse an Ihr Telefon zurücksenden. Um dies eingelassen zu haben, nehmen wir das große maschinelles Lernmodell aus der Cloud, machen es kleiner und effizienter und führen es auf dem Betriebssystem und der Hardware Ihres Geräts aus. Welche Hardware macht dies möglich? Neue, leistungsstärkere Chipsätze. Zum Beispiel verwendet das Pixel 9 Pro unseren SOC, das als Tensor G4 bezeichnet wird. Diese Telefone können Modelle wie Gemini-Nano ausführen und Hochleistungsberechnungen verarbeiten. Daher ist Tensor speziell so konzipiert, dass Google AI ausführt, was viele neue Gen -AI -Funktionen von Pixel anbietet. Genau! Und während generative KI-Funktionen ein großer Teil davon sind, ermöglicht die Verarbeitung von On-Device auch Dinge wie das Rendern von Videos, das Spielen von Spielen, die HDR-Fotobearbeitung und die Sprachübersetzung-vielmehr alles, was Sie mit Ihrem Telefon tun. Diese Aufgaben erfolgen auf Ihrem Telefon, nicht auf einem Server. Das Talkback mit Gemini, das Bilder analysiert und Beschreibungen lautet, ist ein Beispiel für die Verarbeitung von On-Device-Verarbeitung, das Tensor, das Pixel-System auf einem Chip, verwendet. Die Berechnungskraft der heutigen Smartphones ist unglaublich. Sie sind Tausende Male schneller als frühe Hochleistungscomputer, die frühere Räume füllten. Diese alten Computer waren die Spitze für die Datenanalyse, die Bildverarbeitung, die Erkennung von Anomalie und die frühe KI -Forschung. Jetzt können wir das alles auf unseren Geräten tun und neue Möglichkeiten für hilfreiche Funktionen eröffnen. Ist die Verarbeitung von On-Device besser als außerhalb des Geräts? Nicht unbedingt. Wenn Sie die Suche vollständig im Gerät verwendet haben, wäre dies langsam oder begrenzt, da die Suche im Web wie das Finden einer Nadel in einem Heuhaufen ist. Der gesamte Webindex kann nicht auf Ihr Telefon passen! Stattdessen verwendet die Suche die Cloud und unsere Rechenzentren, um auf Billionen Webseiten zuzugreifen. Für spezifischere Aufgaben ist die Verarbeitung von On-Geräten jedoch sehr nützlich. Es ist schneller, weil es keine Latenz gibt und es ohne Internetverbindung funktioniert, was es zuverlässiger macht. Da sich der KI -Chip in der Tasche befindet, können Apps diese LLM -Funktionen kostenlos verwenden. Beide haben ihre Vorteile: Die Cloud verfügt über leistungsstärkere Modelle und kann viele Daten speichern, wie Ihre Fotos und Videos. Es unterstützt auch Aktionen wie das Durchsuchen von massiven Datenbanken wie Drive, Google Mail und Google -Fotos. Ich bin bereits beeindruckt von dem, was mein Pixel kann, aber es hört sich so an, als würde es nur besser werden. Ja, die Modelle, die wir für diese komplexen Aufgaben auf Android -Geräten verwenden, werden fähiger. Aber es geht nicht nur um eine bessere Technologie. Wir konzentrieren uns auch auf das, was den Menschen tatsächlich zugute kommt. Wir stellen nicht nur Produkte ein, weil die Verarbeitung von On-Geräten damit umgehen kann. Wir möchten sicherstellen, dass es etwas ist, das die Menschen in ihrem täglichen Leben einsetzen wollen.

Verwandter Artikel

Kommentare (20)