Tensormeshは、AIインフラの推進が進む中、450万ドルのシード資金を調達しました。この資金は、オープンソースのLMCacheユーティリティの商業版を構築するために使用され、推論コストを最大10倍削減できる可能性があります。主要製品は、キー-バリューキャッシュ（KVキャッシュ）であり、これによって複雑な入力を効率的に処理します。従来のシステムでは各クエリの後にキャッシュが破棄されるのに対し、Tensormeshのシステムはキャッシュを保持し、再利用可能にします。このアプローチは、GPUメモリの効率を最大化し、サーバーの負荷を軽減しながら推論の能力を向上させることができます。特にチャットインターフェースやエージェントシステムにおいて効果があり、需要が高まると見込まれています。