26 ago 2026 · inclusionAI/UI-Venus-2-9B
inclusionAI publica UI-Venus-2-9B
inclusionAI (Ant Group) · Laboratorio · web oficial
Listo para localVisiónmodelo nuevo
Qué hacer: Listo para local — Hay GGUF de un publicador de referencia: funciona en llama.cpp, LM Studio y Ollama.
Modelo nuevo: 0.0 B parámetros, 24 cuantizaciones GGUF disponibles.
Cómo ejecutarlo
Cuantización recomendada: Q4_K_M del repo bartowski/UI-Venus-2-9B-GGUF
Ollama
ollama run hf.co/bartowski/UI-Venus-2-9B-GGUF:Q4_K_Mllama.cpp
llama-server -hf bartowski/UI-Venus-2-9B-GGUF:Q4_K_MLM Studio
lms get bartowski/UI-Venus-2-9B-GGUFFicha del modelo
| Parámetros | 1 M |
|---|---|
| Arquitectura | Qwen3_5ForConditionalGeneration |
| Contexto máximo | 262.144 tokens |
| Licencia | sin declarar |
| Acceso | abierto |
Memoria estimada
Estimación = tamaño real del fichero GGUF + KV cache fp16 (32 KiB/token) + margen. No es una medición: el uso real depende del motor, el offloading y la cuantización de la KV.
| Cuantización | Fichero | Memoria estimada |
|---|---|---|
IQ2_M | 3.5 GB | 3.8–4.9 GB |
Q2_K | 3.8 GB | 4.0–5.2 GB |
IQ3_XXS | 4.0 GB | 4.2–5.4 GB |
IQ3_XS | 4.2 GB | 4.5–5.7 GB |
Q3_K_S | 4.3 GB | 4.6–5.9 GB |
IQ3_M | 4.4 GB | 4.6–5.9 GB |
Q3_K_M | 4.6 GB | 4.8–6.1 GB |
Q2_K_L | 4.7 GB | 5.0–6.3 GB |
Q3_K_L | 4.8 GB | 5.0–6.3 GB |
IQ4_XS | 4.9 GB | 5.1–6.5 GB |
IQ4_NL | 5.1 GB | 5.4–6.7 GB |
Q4_0 | 5.1 GB | 5.4–6.7 GB |
Q4_K_S | 5.2 GB | 5.5–6.9 GB |
Q4_K_M | 5.5 GB | 5.8–7.2 GB |
Q4_1 | 5.5 GB | 5.8–7.2 GB |
Q3_K_XL | 5.6 GB | 5.8–7.3 GB |
Q5_K_S | 6.1 GB | 6.3–7.9 GB |
Q4_K_L | 6.2 GB | 6.5–8.0 GB |
Q5_K_M | 6.4 GB | 6.6–8.2 GB |
Q5_K_L | 7.0 GB | 7.2–8.9 GB |
Q6_K | 7.2 GB | 7.4–9.1 GB |
Q6_K_L | 7.6 GB | 7.9–9.7 GB |
Q8_0 | 8.9 GB | 9.1–11.1 GB |
BF16 | 16.7 GB | 16.9–20.1 GB |
Ficheros de bartowski/UI-Venus-2-9B-GGUF.
Hechos verificados
| Parámetros | 1469680 | fuente |
|---|---|---|
| Acceso restringido | false | fuente |
| Tipo | image-text-to-text | fuente |
| Publicado en Hugging Face | 2026-08-26T14:52:03.000Z | fuente |
| Arquitectura | Qwen3_5ForConditionalGeneration | fuente |
| Contexto máx. | 262144 | fuente |
| Cuantizaciones GGUF | 24 | fuente |
Fuentes
- Hugging Face · inclusionAI/UI-Venus-2-9B consultada 2026-10-13
- inclusionAI/UI-Venus-2-9B · config.json consultada 2026-10-13
- Hugging Face · bartowski/UI-Venus-2-9B-GGUF consultada 2026-10-13
Cómo se decidió
Todas las citas verificadas · triage por reglas.
- Modelo nuevo de una organización vigilada; datos desde la API del Hub.
Procedencia técnica
- modelo nuevo de organización vigilada; hechos desde la API del Hub
sha256 47fd493506be0de5…· https://huggingface.co/inclusionAI/UI-Venus-2-9Bsha256 f6edd4ec68b2b9b4…· https://huggingface.co/inclusionAI/UI-Venus-2-9B/blob/main/config.jsonsha256 83182d36bd3037a2…· https://huggingface.co/bartowski/UI-Venus-2-9B-GGUF