22 sept 2026 · vllm-project/vllm · canal stable

vLLM v0.30.0

VvLLM · Proyecto · web oficial

Actualizaincompatiblemodelo nuevorendimiento

Qué ha cambiado

• Mejora en el tiempo de inicio mediante un demonio de caché de pesos por GPU.

  “a persistent per-GPU weight-cache daemon holds post-quantized, TP-sharded weights in GPU memory so restarting engines map them over CUDA IPC with `--load-format ipc_cache` instead of reloading from disk” — fuente

• Nuevas capacidades de watermarking para la generación de texto.

  “Gumbel-max watermarked generation and detection with a keyed PRF, per-request opt-out and an example detection endpoint” — fuente

• Cambios que rompen la compatibilidad (Breaking changes) en la configuración de endpoints y eliminación de variables de entorno.

  “scale-out endpoints are opt-in on plain `vllm serve` via `--enable-scale-out`, replacing `VLLM_ENABLE_SCALE_OUT_ENDPOINTS`” — fuente

• Optimización de rendimiento para modelos multimodales y soporte de audio con torchcodec.

  “torchcodec audio decoding and a selectable `audio_backend` in `--media-io-kwargs`” — fuente

Fuentes

• vllm-project/vllm v0.30.0 consultada 2026-10-13

Cómo se decidió

Verificación parcial · triage por LLM (gemma4).

• Las reglas vieron señales de publicación (breaking, deprecation, performance).
• El modelo decidió publicar · 4 citas comprobadas, 1 descartadas