Liquid AI released RIPL, a real-time inference engine for its LFM models. On one B200, LFM2.5-1.2B on RIPL showed 14.4 to 28.4x lower p95 latency than Qwen3.5-0.8B on vLLM.
Extrait publié par MarkTechPost. Lisez l'article complet sur le site d'origine.
Discussion0
Rejoignez la communauté pour réagir et poser vos questions.