iPhone 17 Proは400Bパラメータのモデルをローカルで0.6トークン/秒で実行する

現代のスマートフォンが抱える計算能力の限界は何によって定義されるのか?Appleの最新フラッグシップモデルであるiPhone17Pro は、その驚異的な性能と、それゆえに謙虚さを余儀なくされる答えを示した。
3月23日、4000億パラメータを備えた大規模言語モデルがiPhone17Pro 上で正常に実行された。特筆すべきは、量子化処理を施した後も、此类のモデルは通常少なくとも200GBのメモリを必要とするのに対し、iPhone17Pro にはわずか12GBのLPDDR5X RAMしか搭載されていない点である。
技術的革新:フラッシュメモリストリーミングとMixture of Experts (MoE)
深刻なメモリ制約を克服し、この「不可能な業」は主に以下の2つの主要な技術戦略によって達成された。
SSDを仮想メモリとして活用: オープンソースのFlash-MoEプロジェクトを活用し、デバイスがソリッドステートドライブ(SSD)からGPUへデータを直接ストリーミングし、物理メモリの制約を事実上回避している。
MoEアーキテクチャの利点: 「MoE」とはMixture of Experts(専門家混合)の略称であり、この設計では、生成される単語ごとに4000億パラメータ全体を読み込むのではなく、システムがそのサブセットのみをアクティブにする。
パフォーマンスのトレードオフ:生成速度の遅さ
実行は成功したものの、ユーザー体験はまだ実用的とは程遠い。テスト結果は以下の通りである。
生成レート: 速度は1秒あたり0.6トークンに制限されており、単語を1つ生成するのに約1.5〜2秒を要する。
電力および熱への影響: この集中的なローカル処理は、バッテリー寿命を急速に消耗し、大きな熱を発生させる。
業界の見解:ローカルAIは「特異点」に近づいているか?
現在の生成速度は最適とは言えないものの、このデモが持つ象徴的意義は、その即時的な有用性を上回る。これは、スマートフォン上で大規模モデルをローカルで実行することが可能な道筋であることを証明している。
強化されたプライバシー: ローカル処理によりデータがデバイス内に留まるため、クラウドへのアップロードが不要となり、より優れたプライバシーが確保される。
オフライン機能: インターネット接続なしで高度なAI応答にアクセスすることが、ますます現実味を帯びてきている。
関連記事
Google、IO 2026でChatGPTやClaudeと競争するためGeminiアプリを更新
火曜日の年間 Google I/O イベントにおいて、Google は Gemini アプリの一連のアップデートを発表し、「デイリーブリーフ」機能、刷新されたインターフェース、新しい Gemini Omni AI 動画モデルへのアクセス、および「Gemini Spark」と呼ばれるパーソナル AI エージェントを導入しました。これらの強化機能は、Google が Gemini アプリを単体のチャットボットではなく包括的な AI ハブへと変革する戦略を強調するもので、ChatGPT や Claud
千文クリエイションが7日間のメンバーシップを公開、200ポイントと旅行写真用の高速化ツールを提供
Qwen Createは、旅行写真、イベントマーケティング、ソーシャルメディアコンテンツなど、即時かつ軽量なAI作成タスクを対象とした7日間のメンバーシッププランを正式に開始しました。購入後、ユーザーは200ポイント、専用高速生成チャンネルへのアクセス、および新モデルや新機能への優先アクセス権を獲得できます。短期プランは試用の障壁を低減する月額サブスクリプションと比較して、7日間のメンバーシップは利用期間を短くすることで参入障壁を大幅に引き下げています。旅行、イベント、またはソーシャルメディ
iOS 27.2 ベータ版は、ヘルスアプリの大幅な刷新と Siri の5言語への対応拡大をもたらす
Appleは本日、開発者向けにiOS 27.2の最初のベータ版をリリースしました。期待されていたiOS 27.1のテストフェーズをスキップし、Appleは9月16日にiOS、iPadOS、macOS、watchOS、tvOS、visionOSの初期ベータ版を同時に公開する形で、27.2のテストサイクルを直接開始しました。ヘルスアプリの再設計:洞察、長寿、カメラ自己テスト9月9日に公開されたリニューアル版のヘルスアプリには、「洞察」、「長寿」、「閲覧」の各タブが搭載されています。「洞察」はバイタル
関連特集おすすめ
コメント (0)
0/500

現代のスマートフォンが抱える計算能力の限界は何によって定義されるのか?Appleの最新フラッグシップモデルである
3月23日、4000億パラメータを備えた大規模言語モデルが
技術的革新:フラッシュメモリストリーミングとMixture of Experts (MoE)
深刻なメモリ制約を克服し、この「不可能な業」は主に以下の2つの主要な技術戦略によって達成された。
SSDを仮想メモリとして活用: オープンソースのFlash-MoEプロジェクトを活用し、デバイスがソリッドステートドライブ(SSD)からGPUへデータを直接ストリーミングし、物理メモリの制約を事実上回避している。
MoEアーキテクチャの利点: 「MoE」とはMixture of Experts(専門家混合)の略称であり、この設計では、生成される単語ごとに4000億パラメータ全体を読み込むのではなく、システムがそのサブセットのみをアクティブにする。
パフォーマンスのトレードオフ:生成速度の遅さ
実行は成功したものの、ユーザー体験はまだ実用的とは程遠い。テスト結果は以下の通りである。
生成レート: 速度は1秒あたり0.6トークンに制限されており、単語を1つ生成するのに約1.5〜2秒を要する。
電力および熱への影響: この集中的なローカル処理は、バッテリー寿命を急速に消耗し、大きな熱を発生させる。
業界の見解:ローカルAIは「特異点」に近づいているか?
現在の生成速度は最適とは言えないものの、このデモが持つ象徴的意義は、その即時的な有用性を上回る。これは、スマートフォン上で大規模モデルをローカルで実行することが可能な道筋であることを証明している。
強化されたプライバシー: ローカル処理によりデータがデバイス内に留まるため、クラウドへのアップロードが不要となり、より優れたプライバシーが確保される。
オフライン機能: インターネット接続なしで高度なAI応答にアクセスすることが、ますます現実味を帯びてきている。
Google、IO 2026でChatGPTやClaudeと競争するためGeminiアプリを更新
火曜日の年間 Google I/O イベントにおいて、Google は Gemini アプリの一連のアップデートを発表し、「デイリーブリーフ」機能、刷新されたインターフェース、新しい Gemini Omni AI 動画モデルへのアクセス、および「Gemini Spark」と呼ばれるパーソナル AI エージェントを導入しました。これらの強化機能は、Google が Gemini アプリを単体のチャットボットではなく包括的な AI ハブへと変革する戦略を強調するもので、ChatGPT や Claud
千文クリエイションが7日間のメンバーシップを公開、200ポイントと旅行写真用の高速化ツールを提供
Qwen Createは、旅行写真、イベントマーケティング、ソーシャルメディアコンテンツなど、即時かつ軽量なAI作成タスクを対象とした7日間のメンバーシッププランを正式に開始しました。購入後、ユーザーは200ポイント、専用高速生成チャンネルへのアクセス、および新モデルや新機能への優先アクセス権を獲得できます。短期プランは試用の障壁を低減する月額サブスクリプションと比較して、7日間のメンバーシップは利用期間を短くすることで参入障壁を大幅に引き下げています。旅行、イベント、またはソーシャルメディ
iOS 27.2 ベータ版は、ヘルスアプリの大幅な刷新と Siri の5言語への対応拡大をもたらす
Appleは本日、開発者向けにiOS 27.2の最初のベータ版をリリースしました。期待されていたiOS 27.1のテストフェーズをスキップし、Appleは9月16日にiOS、iPadOS、macOS、watchOS、tvOS、visionOSの初期ベータ版を同時に公開する形で、27.2のテストサイクルを直接開始しました。ヘルスアプリの再設計:洞察、長寿、カメラ自己テスト9月9日に公開されたリニューアル版のヘルスアプリには、「洞察」、「長寿」、「閲覧」の各タブが搭載されています。「洞察」はバイタル





家






