ExLlamaV3 v1.6.1
En observación — sin evidencia suficiente.
En observación✓ 5 citas
12 versiones registradas · última: v1.6.1 (2026-10-10).
En observación — sin evidencia suficiente.
En observación✓ 5 citas
Actualiza — Introduce soporte preliminar para ROCm y optimizaciones significativas en la gestión de CPU y memoria, mejorando el rendimiento en hardware específico.
En observación — sin evidencia suficiente.
En observación✓ 2 citas
En observación — sin evidencia suficiente.
En observación✓ 3 citas
En observación — sin evidencia suficiente.
En observación✓ 3 citas
En observación — sin evidencia suficiente.
En observación✓ 4 citas
Novedades opcionales — Esta actualización introduce mejoras significativas de rendimiento en prefill y decode, especialmente para modelos MoE y arquitecturas específicas, además de un nuevo modo experimental de zero-copy para CPU offload en Linux.
Novedades opcionales — Introduce soporte para nuevos modelos (DeepseekV4, LFM2.5, Spark2.5) y optimizaciones críticas en el offloading a CPU y tiempos de importación.
En observación — sin evidencia suficiente.
En observación✓ 3 citas
En observación — sin evidencia suficiente.
En observación✓ 3 citas
En observación — sin evidencia suficiente.
En observación✓ 2 citas
En observación — sin evidencia suficiente.
En observación✓ 4 citas