llama.cpp b11571
Novedades opcionales
Proyecto · web oficial ·rss · 16 eventos publicados
Novedades opcionales
Novedades opcionales
Novedades opcionales
Novedades opcionales
Novedades opcionales
Novedades opcionales
Novedades opcionales
Actualiza — Corrige un error de comparación de versiones en CUDA que causaba una pérdida de rendimiento silenciosa (fallback a un camino más lento) al actualizar a versiones mayores de CCCL (ej.
Actualiza — Añade soporte para la arquitectura GLM5-Next con Multi-Token Prediction (MTP) y optimiza significativamente el rendimiento de los kernels para este tipo de modelos.
Novedades opcionales
Actualiza — Añade soporte completo para la arquitectura K2 Horizon (incluyendo conversión GGUF y soporte de herramientas) y corrige un error crítico de regex que impedía la carga de modelos en Windows.
Novedades opcionales — Esta actualización incluye optimizaciones críticas en los kernels de CUDA y ROCm (Lightning indexer), mejorando significativamente la velocidad en GPUs AMD y optimizando el uso de registros en CUDA.
Actualiza — Esta versión introduce cambios estructurales en la API de batches, soporte para modelos híbridos masivos (GLM-5.3-Flash 320B) y optimizaciones críticas de rendimiento en Metal y Vulkan.
Novedades opcionales
Novedades opcionales
Novedades opcionales