5 oct 2026 · vllm-project/vllm · canal stable

vLLM v0.31.0

Actualizaincompatiblemodelo nuevorendimiento

Qué hacer: Corrige un fallo o un problema de seguridad que conviene tener.

Es una actualización mayor de vLLM con optimizaciones críticas de rendimiento para modelos DeepSeek-V4.1 y soporte para nuevos arquitecturas, además de cambios que rompen la compatibilidad en la configuración de cuantización y parámetros multimodales.

Qué ha cambiado

Optimización masiva para DeepSeek-V4.1-Flash mediante FlashMLA y caché KV comprimido.
“FlashMLA mega attention with the V4.1 NVFP4 compressed KV cache is now the SM100 default” — fuente
Nuevo CLI 'vllm preload' para mantener pesos en GPU y acelerar reinicios.
“the new `vllm preload` CLI launches the weight-cache daemon that keeps post-quantized weights resident in GPU memory across engine restarts” — fuente
Introducción de Model Runner V2 con soporte para speculative decoding.
“Model Runner V2 and speculative decoding: draft-model speculative decoding (#43091) and custom logits processors (#56497) on Model Runner V2” — fuente
Cambios que rompen la compatibilidad (Breaking changes) en parámetros multimodales y cuantización.
“Breaking changes: per-request multimodal kwargs gated (#58830); `tokenizer_mode="slow"` removed (#58545)” — fuente
Soporte para nuevos modelos como Gemma4, Kimi-K3 y DiffusionGemma.
“New model capabilities: DiffusionGemma structured generation mode with bounded single-token choices (#57250)” — fuente

Fuentes

vllm-project/vllm v0.31.0 consultada 2026-10-13

Cómo se decidió

Todas las citas verificadas · triage por LLM (gemma4).

Las reglas vieron señales de publicación (breaking, performance).
El modelo decidió publicar · 5 citas comprobadas

Procedencia técnica

reglas: publish (breaking, performance)
llm: publish; 5 citas verificadas, 0 rechazadas
sha256 63bbe33b88ffba6d… · https://github.com/vllm-project/vllm/releases/tag/v0.31.0