3 oct 2026 · turboderp-org/exllamav3 · canal stable
ExLlamaV3 v1.5.4
ExLlama · Proyecto · web oficial
Novedades opcionalesEn observaciónmodelo nuevorendimiento
Qué hacer: nada por ahora — quedó en observación porque la evidencia no fue suficiente para publicarlo.
Esta versión introduce nuevas capacidades de cuantización de embeddings y streaming desde disco, además de optimizaciones de rendimiento y memoria.
Qué ha cambiado
- Nuevas opciones para la cuantización de token-embedding y streaming desde disco.
“Options for token-embedding quantization and disk streaming” — fuente
- Actualización de la integración con Transformers y soporte para backprop en capas EXL3.
“Update HF Transformers integration module to Transformers 5, add backprop for wrapped EXL3 layers” — fuente
Fuentes
- turboderp-org/exllamav3 1.5.4 consultada 2026-10-13
Cómo se decidió
Verificación parcial · triage por LLM (gemma4).
- Las reglas no vieron señales relevantes sin señales relevantes.
- El modelo decidió publicar · 2 citas comprobadas, 1 descartadas
- Se consideró un cambio menor: queda en observación.
Procedencia técnica
- reglas: drop (sin señales)
- llm: publish; 2 citas verificadas, 1 rechazadas
- publish con severidad minor: queda en observación
sha256 9d2bb8c20b641c45…· https://github.com/turboderp-org/exllamav3/releases/tag/v1.5.4
1 citas propuestas descartadas por no aparecer en la fuente
- “Faster model loading, Performance improvements, Reduced system memory and VRAM overhead”