HackerNews

Gerbil – LLMをローカルで実行するためのオープンソースデスクトップアプリ

Show HN: Gerbil – an open source desktop app for running LLMs locally

https://github.com/lone-cloud/gerbil


Gerbilは、ローカルで大規模言語モデル(LLM)を実行するためのオープンソースのデスクトップアプリケーションです。このアプリはKoboldCppに基づいており、Windows、macOS、Linux(Wayland含む)にネイティブで対応しています。自動更新機能や効率的なプロセス管理により、システムリソースの無駄を防ぎ、最適なパフォーマンスを実現します。また、FluxやChromaによる画像生成のプリセットや、SillyTavernおよびOpenWebUIとの統合が特徴です。プライバシーを重視し、全ての処理はローカルマシン上で行われます。ユーザーは各プラットフォーム向けのビルド済みバイナリをダウンロードして簡単にインストールでき、CLIモードを利用することも可能です。