Qué cabe, qué rinde y qué merece ocupar memoria en el rack. La ficha oficial y la medida local son cosas distintas; cada ficha indica qué está pendiente.
La version 4.1 de DeepSeek Flash, cuantizada a 2,9 bits (EXL3) y repartida entre dos GX10. Saca 83/100 en nuestro banco de agentes con pensamiento desactivado (82 con el activado) y 600.000 tokens de contexto configurados.
Necesita mucho disco: el paquete ronda los 340 GB por máquina. Para empezar en una sola GX10, mejor DeepSeek-V4-Flash.
organización deepseek-ai en Hugging Face ↗Modelo de Xiaomi que entiende texto, imagen y audio y usa herramientas. Repartido en dos GX10 da 34 tok/s con una petición y 226 tok/s en total con ocho. 82/100 en nuestro banco de agentes.
Lo tenemos en pruebas: funciona bien, pero para trabajo con agentes GLM-5.3 sigue sacando mas nota. El 1M es configuracion del servidor, no capacidad demostrada a tope.
organización XiaomiMiMo en Hugging Face ↗GLM-5.3-Flash cuantizado a 4 bits y repartido entre dos GX10. Con TensorFold es el que mejor nota saca en nuestro banco de agentes (90/100, 3 pasadas) y aguanta 1.048.576 tokens de contexto.
Si solo tienes una GX10, no cabe con un contexto útil: mira DeepSeek-V4-Flash o Qwen3.6-35B.
ficha oficial zai-org ↗Un MoE grande (284B, 13B activos) que cabe en una sola GX10 cuantizado. Da unos 30 tok/s con decodificacion especulativa y admite hasta 1M de contexto segun su ficha; nosotros lo hemos servido a 128K con llama.cpp y a 256K con el motor ds4.
Con el motor ds4 saca 89/100 en nuestro banco de agentes, seis puntos más que en llama.cpp.
ficha oficial DeepSeek ↗Variante Flash-Next de Qwen3.8, en NVFP4 y repartida entre dos GX10. Unos 81,5 tok/s agregados con cuatro peticiones a la vez y 86/100 en el banco de agentes; en una sola Spark con TensorFold da 129,6 tok/s estructurados pero baja a 81/100.
No confundir con Qwen3.8-27B: son modelos distintos.
ficha oficial Qwen ↗Modelo denso de 27B. Fue el primero que resistio sin ayuda nuestra prueba de inyeccion de prompt (10/10), a cambio de ser de los mas lentos (unos 20 tok/s por el limite de ancho de banda). Su banco es 86/100 en un solo pase.
Un MoE como Ornith-1.5 iguala su calidad con el triple de velocidad. 20-21 tok/s es el techo fisico de esta maquina para este modelo.
ficha oficial Qwen ↗MoE de 30B con solo 3B activos, en NVFP4. Con decodificacion especulativa DSpark llega a 139 tok/s en una GX10: el mas rapido que hemos medido. Sin ella se queda en 45,96 tok/s, pero es el modelo mas frio que hemos medido (57,5 C).
Sin un prompt de sistema defensivo cae ante las inyecciones de prompt; con el, resiste. Usalo con uno si va a leer contenido de terceros. Su banco es 79/100.
MoE de 35B con 3B activos. Rápido (unos 125 tok/s en NVFP4) y el que mejor aguanta varias peticiones a la vez: 347 tok/s en total con ocho.
Nuestra recomendacion para empezar en una sola GX10. Ojo: sin prompt defensivo cae ante la inyeccion durmiente.
MoE de Ant Group. Más lento con una petición (unos 36 tok/s), pero escala bien con varias a la vez.
Usa los ajustes de la receta de su autor: sin ellos arranca bien y genera texto sin sentido.
Modelo denso de 30B. Sin ayuda va a 7 tok/s; con un borrador DFlash llega a unos 17–28 tok/s.
Un buen ejemplo de por qué los modelos densos rinden poco en memoria unificada.