OllamaがApple Siliconの推論を最大20%高速化:MLXエンジン、NVFP4量子化、エージェンティックワークフロー向けスナップショット
OllamaはApple Silicon向けMLXエンジンを更新し、Metal kernelの融合とGPUサンプリングによってトークン生成を最大20%高速化しました。新しいNVFP4量子化フォーマットは非量子化BF16と比較して品質損失を半減させ、スナップショットシステムは分岐や再試行が可能なエージェンティックワークフローを容易にします。
この記事はAIにより一次情報源から生成されました。
Ollamaは最新のApple Silicon向けMLXエンジンのアップデートを発表しました。これはトークン生成速度、量子化精度、エージェンティックワークフローサポートに大幅な改善をもたらします。このアップデートはApple Siliconを現代の要求の高い言語モデルを実行するための専用推論ハードウェアに対する真剣な代替として位置付けます。
Apple SiliconユーザーにとってMLXエンジン更新は何を意味するか?
MLX(Machine Learning eXecution)はApple SiliconアーキテクチャとそのUnified Memory(英語:unified memory)に最適化されたAppleの機械学習フレームワーク(英語:machine learning framework)です。OllamaのMLXエンジン更新は、Apple Siliconを搭載したすべてのデバイスで生成速度の向上、出力応答の品質向上、最初のトークンまでの時間短縮(英語:time to first token)をもたらします。速度向上に加えて、アップデートは3つの主要な技術的新機能を導入します:NVFP4量子化、エージェンティックワークフロー向けスナップショットシステム、思考モデルのネイティブサポート。
トークン生成を最大20%高速化
更新されたMLXエンジンはApple Siliconデバイスでトークン生成を最大20%高速化します。速度向上は2つの主要なメカニズムによって実現されます:
- Metal kernelの融合(英語:fused Metal kernel operations)——複数の操作を1つにまとめることでプロセッサコア間の通信オーバーヘッドを削減し、スループットを直接向上させる
- GPUベースのサンプリング(英語:GPU-backed sampling)——次のトークンを選択するプロセスが完全にGPU上で実行され、プロセッササブシステム間の高コストなデータ転送経路を排除する
これらの最適化の組み合わせにより、MacBook Pro、Mac Studio、Mac Pro上のOllamaユーザーは設定を一切変更することなく、モデルの応答が顕著に高速になります。
NVFP4:デスクトップInferenceのための新しい量子化レベル
このアップデートで最も重要な追加のひとつは、NVIDIAのNVFP4量子化フォーマットのサポートです。量子化は不可避な品質損失を伴いながら、より高速な実行と小さなメモリフットプリントのためにモデルの重み(英語:model weights)の精度を削減する技術です。
NVFP4は優れたバランスを提供します:このフォーマットは非量子化のBF16重みと比較した4ビット量子化の品質損失を半減させます。言い換えれば、NVFP4で量子化されたモデルは標準的な4ビット量子化で圧縮されたモデルよりも応答の詳細と精度をはるかに多く保持します——これは複雑な推論でエラーを犯すモデルとそれらを確実に解決するモデルの差をもたらします。
OllamaはMacBook Pro M5 Maxで実行したGemma 4 12Bモデルでのパフォーマンスをテストし、データセンター向けモデルが許容できる品質レベルでデスクトップおよびラップトップコンピュータで実行可能になったことを実証しました。
エージェンティックワークフロー向けスナップショットシステム
新しいアップデートはスナップショットシステム(英語:snapshot system)を導入し、エージェンティックワークフローにおける主要な課題のひとつを直接解決します:会話の分岐や再試行時に同じコンテキストの冗長な処理です。
スナップショットシステムは複数の方法で機能します:
- 会話の分岐点(英語:conversation branch points)と重要な処理間隔でのモデル状態の保存
- 複数の並行エージェントのサポート——各エージェントは互いに干渉することなく独自の独立して保存されたスナップショットから作業を継続できる
- 思考モデル(英語:thinking models)のサポート——交換の間に推論トークン(英語:reasoning tokens)が破棄されるモデルで、スナップショットはコンテキストを最初から再処理する必要がないことを保証する
- コンテキスト全体の完全な再処理なしでの分岐と再試行シナリオ(英語:branching and retry scenarios)
スナップショットシステムはプレフィックスキャッシング(英語:prefix caching)と連携して動作し、ツール呼び出し(英語:tool calls)とエージェント間のハンドオフ(英語:multi-agent handoffs)の間の冗長な計算を最小化します。
プレフィックスキャッシングと思考モデル
スナップショットシステムに加えて、Ollamaは思考モデルのネイティブサポートも導入します——最終回答を提供する前に内部の推論の連鎖(英語:chain-of-thought)を生成するモデルのカテゴリです。プレフィックスキャッシング(英語:prefix caching)は長い会話とマルチエージェントシステムに現れる繰り返されるコンテキストの計算コストを削減し、エージェンティックアプリケーションをより経済的で高速にします。
Apple SiliconでのGemma 4 12Bの実行
説明されたすべての機能は即座に利用可能です。ユーザーはMLXバックエンドを使用してGemma 4 12Bモデルを実行することで、更新されたMLXエンジンを試すことができます:
ollama run gemma4:12b-mlx
エージェンティックアプリケーションにはollama launch pi --model gemma4:12b-mlxコマンドでの実行オプションも利用可能です。このアップデートはOllamaのビジョンを確認します:Apple Siliconはデスクトップ推論のための真のプラットフォームであり、AppleのユニファイドメモリアーキテクチャとMetalベースのMLXフレームワークを使用してコンシューマーハードウェアでの最大効率を実現しています。
よくある質問
- NVFP4量子化とは何か、標準的な4ビット量子化と比較した利点は何か?
- NVFP4はNVIDIAの量子化フォーマットで、非量子化のBF16重みと比較して品質損失を半減させ、標準的な4ビット量子化よりも多くの詳細と精度を保持します。
- Ollamaのエージェンティックワークフローにおける新しいスナップショットシステムの目的は何か?
- スナップショットシステムは会話の分岐点でモデルの状態を保存し、複数のエージェントが独立したスナップショットから作業を継続し、コンテキスト全体を再処理せずに分岐できます。
📬 AIニュースをあなたの受信箱へ
毎日のダイジェストを自分仕様に——トピック、ソース、頻度を選べます。ワンクリックで解除。