diff --git a/src/llama-hparams.h b/src/llama-hparams.h index 727df6ca21e2..e1194334b756 100644 --- a/src/llama-hparams.h +++ b/src/llama-hparams.h @@ -7,7 +7,7 @@ // bump if necessary #define LLAMA_MAX_LAYERS 512 -#define LLAMA_MAX_EXPERTS 512 // Qwen3 Next +#define LLAMA_MAX_EXPERTS 1024 // Kimi-K3 enum llama_expert_gating_func_type { LLAMA_EXPERT_GATING_FUNC_TYPE_NONE = 0,