HackerNews

Apple、M5がM4に比べてローカルLLMをどれだけ速く実行できるかを示す

Apple shows how much faster the M5 runs local LLMs compared to the M4

https://9to5mac.com/2025/11/20/apple-shows-how-much-faster-the-m5-runs-local-llms-compared-to-the-m4/


Appleは、M5チップがM4に比べてローカルLLMの実行速度がどれほど向上したかを、Machine Learning Researchブログで発表しました。M5では新たに搭載されたGPUニューラルアクセラレータによって、行列積演算が専用に処理され、機械学習のワークロードにおいて重要な性能向上が図られています。具体的には、M5とM4のMacBook Proを使って、複数のオープンモデルがプロンプトを受け取ってから最初のトークンを生成するまでの時間を比較した結果、M5はM4よりも19〜27%の性能向上を示しました。この向上は主にメモリバンド幅の増加(M4の120GB/sに対しM5は153GB/s)に起因しています。MLXフレームワークを通じて、大規模言語モデルのテキスト生成やファインチューニングがより効率的に行えるようになっており、開発者はローカルでさまざまなモデルを実行可能です。