5 oct 2026 · ggml-org/llama.cpp · canal auto-build

llama.cpp v0.6.0

Gggml.ai · Proyecto · web oficial

ActualizaAPImodelo nuevorendimiento

Qué ha cambiado

• Nueva API de batches extendida para inputs mixtos de tokens y embeddings.

  “New `llama_batch_ext` extended batch API (with `llama_process`) for mixed token/embedding inputs” — fuente

• Soporte para el modelo híbrido GLM-5.3-Flash de 320B parámetros.

  “adds support for the GLM-5.3-Flash (GLM5-Next) 320B hybrid model” — fuente

• Mejoras de rendimiento de hasta 3x en mat-mul para Apple GPUs mediante nuevos kernels MMA.

  “new few-row MMA mat-mul kernels for speculative and batched decoding, up to ~3x faster mat-mul on Apple GPUs” — fuente

• Nuevo endpoint `/v1/systemone` para modelos de decisión.

  “ships a new `/v1/systemone` server API for decision models” — fuente

• Soporte de Flash Attention disperso para K/V cuantizado en Vulkan.

  “sparse flash attention for quantized K/V on Vulkan” — fuente

También sobre lo mismo

• zai-org publica GLM-5.3 · Modelo · 25 ago 2026
• zai-org publica GLM-5.3-Flash · Modelo · 25 ago 2026

Fuentes

• ggml-org/llama.cpp v0.6.0 consultada 2026-10-13

Cómo se decidió

Todas las citas verificadas · triage por LLM (gemma4).

• Las reglas vieron señales de publicación (deprecation, feature, new-architecture, performance).
• El modelo decidió publicar · 5 citas comprobadas