13 sept 2026 · turboderp-org/exllamav3 · canal stable
ExLlamaV3 v1.5.0
ExLlama · Proyecto · web oficial
Novedades opcionalesmodelo nuevorendimiento
Qué hacer: Funciones nuevas; actualiza cuando te venga bien.
Esta actualización introduce mejoras significativas de rendimiento en prefill y decode, especialmente para modelos MoE y arquitecturas específicas, además de un nuevo modo experimental de zero-copy para CPU offload en Linux.
Qué ha cambiado
- Soporte para Nemotron-3-Super
“Fix NemotronHForCausalLM (support Nemotron-3-Super)” — fuente
- Modo experimental de zero-copy pinned arena para CPU offload (solo Linux)
“Experimental zero-copy pinned arena mode for CPU offload (Linux only for now)” — fuente
- Mejoras de velocidad en cuantización y modelos MoE
“Faster quantization” — fuente
- Mejoras en el rendimiento de prefill y decode para modelos MoE
“Faster MoE prefill and decode (see below)” — fuente
- Mejoras en el speculative decoding para modelos MoE
“Improved speculative decoding for MoE models” — fuente
Fuentes
- turboderp-org/exllamav3 1.5.0 consultada 2026-10-13
Cómo se decidió
Todas las citas verificadas · triage por LLM (gemma4).
- Las reglas no vieron señales relevantes sin señales relevantes.
- El modelo decidió publicar · 5 citas comprobadas
Procedencia técnica
- reglas: drop (sin señales)
- llm: publish; 5 citas verificadas, 0 rechazadas
sha256 120ada2ebeb00db5…· https://github.com/turboderp-org/exllamav3/releases/tag/v1.5.0