10 sept 2026 · turboderp-org/exllamav3 · canal stable
ExLlamaV3 v1.4.9
ExLlama · Proyecto · web oficial
Novedades opcionalesmodelo nuevorendimiento
Qué hacer: Funciones nuevas; actualiza cuando te venga bien.
Introduce soporte para nuevos modelos (DeepseekV4, LFM2.5, Spark2.5) y optimizaciones críticas en el offloading a CPU y tiempos de importación.
Qué ha cambiado
- Soporte para la torre de visión de DeepseekV4
“Add DeepseekV4ForCausalLM vision tower (supports DeepseekV4-Flash-Vision-Exp)” — fuente
- Soporte para modelos LFM2.5, Spark-X2.5 y GLM4.7-Flash
“Add Lfm2ForCausalLM (LFM2.5 dense variant) - Add Spark2_5ForCausalLM (Spark-X2.5) - Add Glm4MoeLiteForCausalLM (GLM4.7-Flash)” — fuente
- Mejoras en el offloading a CPU y soporte Intel AVX512BW
“Faster CPU offloading, better Intel support (AVX512BW tier)” — fuente
- Reducción significativa en el tiempo de importación
“Greatly reduced import time, vendor in subset of flash-linear-attention to avoid initializing whole library plus Transformers” — fuente
- Corrección de fuga de VRAM al descargar la torre de visión
“Fix VRAM leak after vision tower offloading” — fuente
Fuentes
- turboderp-org/exllamav3 1.4.9 consultada 2026-10-13
Cómo se decidió
Todas las citas verificadas · triage por LLM (gemma4).
- Las reglas no vieron señales relevantes sin señales relevantes.
- El modelo decidió publicar · 5 citas comprobadas
Procedencia técnica
- reglas: drop (sin señales)
- llm: publish; 5 citas verificadas, 0 rechazadas
sha256 0c2e32473890dfe6…· https://github.com/turboderp-org/exllamav3/releases/tag/v1.4.9