Appleは、M5チップがM4に比べてローカルLLMの実行速度がどれほど向上したかを、Machine Learning Researchブログで発表しました。M5では新たに搭載されたGPUニューラルアクセラレータによって、行列積演算が専用に処理され、機械学習のワークロードにおいて重要な性能向上が図られています。具体的には、M5とM4のMacBook Proを使って、複数のオープンモデルがプロンプトを受け取ってから最初のトークンを生成するまでの時間を比較した結果、M5はM4よりも19〜27%の性能向上を示しました。この向上は主にメモリバンド幅の増加(M4の120GB/sに対しM5は153GB/s)に起因しています。MLXフレームワークを通じて、大規模言語モデルのテキスト生成やファインチューニングがより効率的に行えるようになっており、開発者はローカルでさまざまなモデルを実行可能です。