8 sept 2026 · cohere-blog
Cohere's North Mini Code Megakernel Serving Engine
Cohere · Laboratorio · web oficial
Anuncionueva arquitecturarendimiento
Tipo: Anuncio.
Cohere presenta un nuevo motor de inferencia optimizado para código que supera significativamente el rendimiento de vLLM mediante el uso de un 'decode megakernel'.
Qué ha cambiado
- Nuevo sistema de servicio de LLM listo para producción basado en un megakernel de decodificación.
“Cohere presents the first production-ready LLM serving system built around a decode megakernel” — fuente
- Mejora de rendimiento de 1.58x respecto a vLLM.
“achieving 1.58× speedup over vLLM” — fuente
Fuentes
- Cohere's North Mini Code Megakernel Serving Engine | Cohere consultada 2026-10-13
Cómo se decidió
Todas las citas verificadas · triage por LLM (gemma4).
- Las reglas vieron dudas sin señales relevantes.
- El modelo decidió publicar · 2 citas comprobadas
Procedencia técnica
- reglas: hold (sin señales)
- llm: publish; 2 citas verificadas, 0 rechazadas
sha256 f986ef81f92cd28a…· https://cohere.com/blog/megakernels