TechSpertが説明したデバイス処理

新しいPixelスマートフォンを手に入れたことがあるなら、「オンデバイス処理」がそのクールな新機能の裏にある魔法だと聞いたことがあるかもしれません。例えば、Pixel 9シリーズでは、Pixel StudioやCall Notesなどの機能が「デバイス上で」動作します。そして、これはスマートフォンだけではありません。Nestカメラ、Pixelスマートウォッチ、Fitbitデバイスもすべてこの「オンデバイス処理」の波に乗っています。この技術が広く使われ、さまざまな機能を支えていることから、明らかに重要な技術です。

では、「オンデバイス処理」とは一体何なのでしょうか？その名の通り、処理がデバイス自体で行われるということです。しかし、もう少し深く掘り下げるために、Android、Googleニュース、検索などのエンジニアリングチームで約20年間働いてきたGoogleのベテラン、Trystan Upstillに話を聞きました。

Trystan、あなたは新しいPixelデバイスのエキサイティングな機能の開発に携わったチームの一員でしたね。何に取り組んでいましたか？

最近、私はAndroid内で、Googleのさまざまな技術スタックを融合させて素晴らしいユーザー体験を生み出すことに焦点を当てたチームを率いました。どのようにこれらの機能を作り、提供するかを考えるのがすべてです。

技術が常に進化し、新しい機能が導入されているので、終わりなき仕事のように感じるのでは？

その通りです！ここ数年、生成AIの能力は飛躍的に向上しました。最初は、デバイス上で大規模言語モデルを動かすなんて、2026年頃の夢のような話だと思っていました。しかし、技術の進化があまりにも速く、2023年12月にPixel 8 Proで私たちのオンデバイスモデルであるGemini Nanoを使った機能をリリースできました。

「オンデバイス処理」を分解してみましょう。「処理」とは具体的に何を意味するのですか？

デバイスのメインプロセッサ、つまりシステムオンチップ（SoC）には、さまざまなタスク用に特別に設計された複数の処理ユニットがあります。そのため、PixelのTensorチップのようなものが「システムオンチップ」と呼ばれるのです。それは単なる1つのプロセッサではなく、メモリやインターフェースなど、すべてが1つのシリコンに集約された複数のプロセッサの集合体です。

Pixelスマートフォンを例に挙げましょう。中央処理装置（CPU）がメインの「エンジン」です。グラフィックス処理装置（GPU）はビジュアルのレンダリングを担当し、プレミアムAndroidデバイスであるPixelでは、GoogleがAI/MLワークロードをデバイス上で処理するために特別に設計したTensor処理ユニット（TPU）が写真の強化に働きます。これらが連携してタスクをこなします—つまり、処理です。

例えば、写真を撮るとき、これらの処理能力をすべて使っています。CPUはコアタスクを処理し、GPUはレンズが見るものをレンダリングし、PixelのようなプレミアムAndroidデバイスでは、TPUが写真の強化に働きます。

なるほど。「オンデバイス」処理ということは、オフデバイス処理もあるということですね。それはどこで行われるのですか？

オフデバイス処理はクラウドで行われます。デバイスがインターネット経由でサーバーにリクエストを送信し、サーバーがタスクを実行して結果をスマートフォンに送り返します。オンデバイスでこれを実現するには、クラウドにある大規模な機械学習モデルを小さく効率的にし、デバイスのオペレーティングシステムとハードウェアで実行します。

どんなハードウェアがこれを可能にしているのですか？

新しい、より強力なチップセットです。例えば、Pixel 9 ProはTensor G4というSoCを使用しており、これによりGemini Nanoのようなモデルを実行したり、高性能な計算を処理したりできます。

つまり、TensorはGoogle AIを動かすために特別に設計されており、Pixelの新しい生成AI機能の多くを支えているのですね。

その通りです！生成AI機能は大きな部分ですが、オンデバイス処理はビデオのレンダリング、ゲームのプレイ、HDR写真の編集、言語翻訳など、スマートフォンでするほぼすべてのことを可能にします。これらのタスクはサーバーではなく、スマートフォン上で行われます。

Geminiと連携したTalkBackは、画像を分析し、視覚障害者や低視力のユーザーに説明を読み上げる機能で、Tensor、つまりPixelのシステムオンチップを使用したオンデバイス処理の例です。

今日のスマートフォンの計算能力は驚くべきものです。かつて部屋いっぱいを占めていた初期の高性能コンピューターの何千倍も高速です。昔のコンピューターは、データ分析、画像処理、異常検出、初期のAI研究の最先端でした。今では、デバイス上でこれらすべてが可能になり、役立つ新機能の可能性が広がっています。

オンデバイス処理はオフデバイス処理より優れているのですか？

必ずしもそうではありません。検索を完全にオンデバイスで行うと、遅かったり制限があったりします。なぜなら、ウェブ検索は干し草の山から針を見つけるようなものだからです。ウェブ全体のインデックスをスマートフォンに収めることはできません！その代わり、検索はクラウドと私たちのデータセンターを利用して、何兆ものウェブページにアクセスします。

しかし、より具体的なタスクでは、オンデバイス処理が本当に役立ちます。遅延がないので速く、インターネット接続がなくても動作するので信頼性も高いです。さらに、AIチップがあなたのポケットにあるので、アプリはこれらのLLM機能を無料で利用できます。

どちらにも利点があります。クラウドにはより強力なモデルがあり、写真やビデオのような大量のデータを保存できます。また、Drive、Gmail、Googleフォトのような巨大なデータベースの検索のようなアクションもサポートします。

すでにPixelの機能に感心していますが、さらに良くなりそうですね。

はい、Androidデバイスでこれらの複雑なタスクに使用するモデルはますます高性能になっています。しかし、技術の向上だけでなく、実際に人々に利益をもたらすことに焦点を当てています。オンデバイス処理が可能だからといって製品を導入するのではなく、日常で使いたいと思うものを提供したいのです。