HackerNews

パワーPCは未だ健在(G4ノートパソコンのLlama)

The PowerPC Has Still Got It (Llama on G4 Laptop)

https://www.hackster.io/news/the-powerpc-has-still-got-it-c4348bd7a88c


この記事では、2005年製のPowerBook G4が現代のAIアルゴリズムを実行できることが示されています。著者のアンドリュー・ロッシニョールは、1.5GHzのPowerPCプロセッサと1GBのRAMを搭載したこの古いノートパソコンで、オープンソースの大規模言語モデル(LLM)を実行しました。ただし、PowerPCのビッグエンディアンアーキテクチャに合わせてソフトウェアを修正する必要がありました。パフォーマンスは非常に遅く、PowerBook G4ではモデルが1秒間に0.77トークンの速度で処理し、段落を生成するのに4分かかりました。ロッシニョールは、AltiVecを活用して処理速度を0.88トークンに改善しましたが、20年前のノートパソコンが現代のAIモデルを成功裏に実行できたこと自体が印象的です。