Qwen 3.8 27B vs DeepSeek V4 Flash : duel 100% local, qui gagne ?
J'ai reçu ma 5090. 4 000 € d'occasion, je l'ai bridée à 400 watts, le plancher de la carte, et j'y ai fait tourner Qwen 3.8 27B en NVFP4 : 3 sessions en parallèle, la vision comprise, 451 000 tokens de KV cache. En face, DeepSeek V4 Flash 0731 sur mon cluster DGX Spark. La mission est réelle : ajouter la courbe du soleil sur le tableau de bord de mes panneaux solaires, intégrer l'analyse des ombres, et déployer le tout sur le NAS. Résultat : 119 tok/s en moyenne, 2 compactions de contexte, et le quant NVFP4 n'a eu aucun problème. L'intégralité du setup est en lien, patch vLLM compris. Au prog
Discussion
Rejoignez la communauté pour réagir et poser vos questions.
Aucun message pour l'instant. Lancez la discussion !