TechSpertが説明したデバイス処理

# ai # Pixel # Fitbit

新しいピクセルの電話を手に入れたことがあるなら、おそらく「オンデバイス処理」がそのクールな新機能の背後にある魔法であると聞いたことがあるでしょう。たとえば、Pixel 9の電話を取ります。PixelStudioのようなフィーチャーやコールノートは「デバイスで」実行されます。そして、それは単なる電話ではありません。ネストカメラ、ピクセルスマートウォッチ、およびFitbitデバイスはすべて、この「デバイス上の処理」アクションについてすべて存在します。それがどれほど広まっているか、そしてそれが動力を与える機能を考えると、それは明らかに大したことです。では、「オンデバイス処理」とはどういう意味ですか？まあ、それはほとんどのように聞こえます。処理はデバイスで正しく行われます。しかし、より深く潜るために、私たちはAndroid、Google News、Searchのエンジニアリングチームで働いている20年近くのGoogleのベテランであるTrystan Upstillとおしゃべりしました。 Trystan、あなたは新しいPixelデバイスのエキサイティングな機能のいくつかを開発したチームの一員でした。何に取り組んだのですか？最近、Googleのさまざまな技術スタックを驚くべきユーザーエクスペリエンスに融合させることに焦点を当てたAndroid内のチームを率いました。これらの機能を構築して出荷する方法を理解することがすべてです。テクノロジーが常に改善され、新機能が導入されているため、終わりのない仕事のように感じる必要があります。絶対に！過去数年間、生成的AI機能に大きな飛躍が見られました。最初は、デバイスで大規模な言語モデルを実行するというアイデアは遠い夢のように思えました。たぶん2026年には何かが迅速に進化したため、2023年12月にPixel 8 ProでGemini Nanoを使用して機能を起動することができました。 「処理」とはどういう意味ですか？デバイスには、メインプロセッサ、またはシステムオンチップ（SOC）には、さまざまなタスク専用に設計されたいくつかの処理ユニットがあります。そのため、ピクセルのテンソルチップのようなチップが「システムオンチップ」と呼ばれるチップについて聞くことができます。それは1つのプロセッサだけでなく、メモリ、インターフェイスなどとともに、それらの束であり、すべてのシリコンです。例としてピクセルスマートフォンを使用しましょう。メインの「エンジン」として中央処理装置（CPU）を持っています。レンダリングビジュアル用のグラフィックプロセッシングユニット（GPU）。そして今、Googleがデバイス上のAI/MLワークロードを処理するために特別に設計したテンソル処理ユニット（TPU）。それらはすべて、物事を成し遂げるために協力しています。たとえば、写真をスナップすると、これらすべての処理能力を使用しています。 CPUはコアタスクを実行し、GPUはレンズの見た目をレンダリングするのに役立ち、ピクセルのようなプレミアムAndroidデバイスでは、TPUが写真を強化するために機能します。わかった。 「オンデバイス」処理は、オフデバイス処理があることを意味します。それはどこで起こりますか？クラウドでオフデバイス処理が行われます。デバイスはインターネットを介してリクエストをサーバーに送信します。サーバーはタスクを実行し、結果を電話に送り返します。これをオンデバイスにするために、クラウドから大規模な機械学習モデルを採用し、より小さく効率的にし、デバイスのオペレーティングシステムとハードウェアで実行します。これを可能にするハードウェアは何ですか？新しい、より強力なチップセット。たとえば、Pixel 9 ProはTensor G4と呼ばれるSOCを使用しています。これにより、これらの携帯電話はGemini Nanoなどのモデルを実行し、高性能計算を処理できます。したがって、テンソルは、Google AIを実行するために特別に設計されており、Pixelの新しいGen AI機能を強化します。その通り！また、生成的なAI機能はその大きな部分ですが、オンデバイス処理は、ビデオのレンダリング、ゲームのプレイ、HDRの写真編集、言語翻訳など、携帯電話で行うすべてのことを軽量化することも可能にします。これらのタスクは、サーバーではなく、携帯電話で発生します。 画像を分析し、説明を視覚障害者または低ビジョンのユーザーに読み取るジェミニとのトークバックは、チップでピクセルのシステムを使用するデバイス上の処理の例です。今日のスマートフォンの計算能力は信じられないほどです。それらは、部屋全体を埋めるために使用されていた初期の高性能コンピューターよりも数千倍速いです。これらの古いコンピューターは、データ分析、画像処理、異常検出、および初期のAI研究の最先端でした。これで、これらすべてをデバイスで行うことができ、役立つ機能のための新しい機会を開きます。オンデバイス処理はオフデバイスよりも優れていますか？必ずしもそうではありません。完全にオンデバイスで検索を使用した場合、Webを検索することは干し草の山で針を見つけるようなものであるため、遅くまたは制限されます。 Webインデックス全体がお使いの携帯電話に適合できません！代わりに、検索ではクラウドとデータセンターを使用して、数兆個のWebページにアクセスします。しかし、より具体的なタスクの場合、デバイス上の処理は本当に便利です。遅延がなく、インターネットに接続せずに機能し、信頼性が高くなるため、より速くなります。さらに、AIチップはポケットに含まれているため、アプリはこれらのLLM機能を無料で使用できます。どちらにも利点があります。クラウドにはより強力なモデルがあり、写真やビデオなどの多くのデータを保存できます。また、ドライブ、Gmail、Googleの写真など、大規模なデータベースの検索などのアクションもサポートしています。私は自分のピクセルができることにすでに感銘を受けましたが、それは良くなるだけだと思われます。はい、Androidデバイスでこれらの複雑なタスクに使用するモデルは、より能力を高めています。しかし、それはより良いテクノロジーだけではありません。また、実際に人々に利益をもたらすものにも焦点を当てています。デバイス上の処理ではそれを処理できるため、製品を導入するだけではありません。私たちは、それが人々が日常生活で使いたいものであることを確認したいと考えています。

関連記事

コメント (20)