3 sept 2026 · inclusionAI/Ling-3.0-flash-Fin
inclusionAI publica Ling-3.0-flash-Fin
inclusionAI (Ant Group) · Laboratorio · web oficial
Listo para localTextomodelo nuevo
Qué hacer: Listo para local — Hay GGUF de un publicador de referencia: funciona en llama.cpp, LM Studio y Ollama.
Modelo nuevo: 127.5 B parámetros, licencia mit, 28 cuantizaciones GGUF disponibles.
Cómo ejecutarlo
Cuantización recomendada: Q4_K_M del repo bartowski/Ling-3.0-flash-Fin-GGUF
Ollama
ollama run hf.co/bartowski/Ling-3.0-flash-Fin-GGUF:Q4_K_Mllama.cpp
llama-server -hf bartowski/Ling-3.0-flash-Fin-GGUF:Q4_K_MLM Studio
lms get bartowski/Ling-3.0-flash-Fin-GGUFFicha del modelo
| Parámetros | 127 B |
|---|---|
| Arquitectura | BailingMoeV3ForCausalLM |
| Contexto máximo | 262.144 tokens |
| Licencia | mit |
| Acceso | abierto |
Memoria estimada
Estimación = tamaño real del fichero GGUF + KV cache fp16 (47 KiB/token) + margen. No es una medición: el uso real depende del motor, el offloading y la cuantización de la KV.
| Cuantización | Fichero | Memoria estimada |
|---|---|---|
IQ1_S | 25.7 GB | 26.0–30.6 GB |
IQ1_M | 28.5 GB | 28.8–33.9 GB |
IQ2_XXS | 32.8 GB | 33.2–38.9 GB |
IQ2_XS | 36.4 GB | 36.7–43.0 GB |
IQ2_S | 37.0 GB | 37.3–43.7 GB |
IQ2_M | 40.6 GB | 41.0–47.9 GB |
Q2_K | 42.7 GB | 43.1–50.4 GB |
Q2_K_L | 43.1 GB | 43.5–50.8 GB |
IQ3_XXS | 50.4 GB | 50.8–59.2 GB |
Q3_K_S | 52.4 GB | 52.8–61.5 GB |
IQ3_XS | 54.9 GB | 55.3–64.4 GB |
Q3_K_M | 54.9 GB | 55.3–64.4 GB |
Q3_K_L | 57.2 GB | 57.6–67.1 GB |
IQ3_M | 57.3 GB | 57.7–67.1 GB |
Q3_K_XL | 57.5 GB | 57.9–67.4 GB |
IQ4_XS | 64.0 GB | 64.4–74.9 GB |
IQ4_NL | 67.6 GB | 68.0–79.0 GB |
Q4_0 | 67.8 GB | 68.2–79.3 GB |
Q4_K_S | 69.9 GB | 70.3–81.7 GB |
Q4_K_M | 72.5 GB | 72.8–84.7 GB |
Q4_K_L | 72.7 GB | 73.1–85.0 GB |
Q4_1 | 74.7 GB | 75.1–87.3 GB |
Q5_K_S | 81.9 GB | 82.2–95.5 GB |
Q5_K_M | 84.4 GB | 84.8–98.5 GB |
Q5_K_L | 84.7 GB | 85.0–98.8 GB |
Q6_K | 101.8 GB | 102.1–118.5 GB |
Q8_0 | 126.3 GB | 126.7–146.9 GB |
BF16 | 237.6 GB | 237.9–275.4 GB |
Ficheros de bartowski/Ling-3.0-flash-Fin-GGUF.
Hechos verificados
| Parámetros | 127486405600 | fuente |
|---|---|---|
| Licencia | mit | fuente |
| Acceso restringido | false | fuente |
| Tipo | text-generation | fuente |
| Publicado en Hugging Face | 2026-09-03T06:09:53.000Z | fuente |
| Arquitectura | BailingMoeV3ForCausalLM | fuente |
| Contexto máx. | 262144 | fuente |
| Cuantizaciones GGUF | 28 | fuente |
Fuentes
- Hugging Face · inclusionAI/Ling-3.0-flash-Fin consultada 2026-10-13
- inclusionAI/Ling-3.0-flash-Fin · config.json consultada 2026-10-13
- Hugging Face · bartowski/Ling-3.0-flash-Fin-GGUF consultada 2026-10-13
Cómo se decidió
Todas las citas verificadas · triage por reglas.
- Modelo nuevo de una organización vigilada; datos desde la API del Hub.
Procedencia técnica
- modelo nuevo de organización vigilada; hechos desde la API del Hub
sha256 dffed1fa2000a9b8…· https://huggingface.co/inclusionAI/Ling-3.0-flash-Finsha256 04a3acd13eaedccd…· https://huggingface.co/inclusionAI/Ling-3.0-flash-Fin/blob/main/config.jsonsha256 f73ca8a828d5ab3a…· https://huggingface.co/bartowski/Ling-3.0-flash-Fin-GGUF