ServiceStackの「llms」は、複数の大型言語モデル(LLM)に完全オフラインでアクセス可能な軽量CLI、API、およびChatGPT風のUIを提供します。このプロジェクトは、すべてのデータをブラウザのストレージに保持し、プライバシーを尊重します。ユーザーは、llms.jsonで追加のプロバイダーやモデルを簡単に設定でき、リクエストは利用可能なプロバイダーに自動的にルーティングされます。オープンAI互換APIにより、OpenAIのチャット完了APIをサポートする任意のクライアントと互換性があります。内蔵のアナリティクス機能により、コストやトークン使用量を視覚化することができ、簡単なコマンドラインインターフェースも備えています。また、音声や画像の処理、カスタムチャットテンプレートの構成、160以上の異なるLLMのサポートも含まれています。このように「llms」は、さまざまなニーズに応じた強力なツールです。