10 oct 2026 · turboderp-org/exllamav3 · canal stable
ExLlamaV3 v1.6.1
ExLlama · Proyecto · web oficial
ActualizaEn observaciónhardwarerendimiento
Qué hacer: nada por ahora — quedó en observación porque la evidencia no fue suficiente para publicarlo.
Introduce mejoras significativas en el uso de VRAM para técnicas de drafting y optimizaciones específicas para arquitecturas Turing, AVX2 y ROCm.
Qué ha cambiado
- Reducción del overhead de VRAM para GDN/KDA/Mamba drafting
“Reduced (flat) VRAM overhead for GDN/KDA/Mamba drafting” — fuente
- Nuevo modo de drafting híbrido
“New hybrid drafting mode (draft model + long-ngram)” — fuente
- Optimización para arquitecturas Turing (sm_75)
“Turing (sm_75) optimizations” — fuente
- Optimización para instrucciones AVX2
“AVX2 optimizations” — fuente
- Correcciones y optimizaciones para ROCm
“Lots of ROCm fixes and optimizations” — fuente
Fuentes
- turboderp-org/exllamav3 1.6.1 consultada 2026-10-12
Cómo se decidió
Todas las citas verificadas · triage por LLM (gemma4).
- Las reglas vieron señales de publicación (breaking).
- El modelo decidió publicar · 5 citas comprobadas
- Se consideró un cambio menor: queda en observación.
Procedencia técnica
- reglas: publish (breaking)
- llm: publish; 5 citas verificadas, 0 rechazadas
- publish con severidad minor: queda en observación
sha256 1c5b9de737567111…· https://github.com/turboderp-org/exllamav3/releases/tag/v1.6.1