Liquid AI は、LFM モデル用のリアルタイム推論エンジンである RIPL をリリースしました。 1 つの B200 では、RIPL 上の LFM2.5-1.2B は、vLLM 上の Qwen3.5-0.8B よりも p95 潜時が 14.4 ～ 28.4 倍低いことが示されました。 The post Liquid AI、リアルタイム…
コンピューティングの供給、エネルギー、データセンターの容量によって、AI をいかに安価に実行できるかが決まります。インフラストラクチャの変化は数週間後に推論コストに現れます。
概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。