ficha de modelo

GLM-5.3-Flash

GLM-5.3-Flash cuantizado a 4 bits y repartido entre dos GX10. Con TensorFold es el que mejor nota saca en nuestro banco de agentes (90/100, 3 pasadas) y aguanta 1.048.576 tokens de contexto.

Zhipu AInuestro modelo principal · 2 GX10320B total · 18B activosver ficha oficialctx 1.048.576 con TensorFold (850K con el vLLM anterior)RAM mín. depende de la cuantización

Si solo tienes una GX10, no cabe con un contexto útil: mira DeepSeek-V4-Flash o Qwen3.6-35B.

▤ Benchmarks medidos en el rack

2× GX10 · ver ficha →

60.16tok/s

0.351s al primer token

EXL3 4 bpw + FP8 KVctx 830K7 de septiembre de 2026

2× GX10 · ver ficha →

59.01tok/s

0.329s al primer token

EXL3 4 bpw + Dense FP8 dense-kda + FP8 KVctx 830K16 de septiembre de 2026

✦ Recetas para correrlo

Todavía no hay recetas publicadas para GLM-5.3-Flash.

ficha oficial zai-org ↗