DeepSeek V4.1 Flash 1017 配置公开

2026年10月18日 · 第 37 期 · huggingface.co

10 月 17 日公开的 DeepSeek-V4.1-Flash-1017 配置文件确认,模型采用 DeepseekV41ForCausalLM 架构,文本主干隐藏维度为 5120,共 40 层,并配套 32 层视觉模块,支持图像输入。

量化配置显示模型使用 FP8 动态量化,权重块大小为 32×32,专家权重进一步使用 FP4;MoE 部分总共有 384 个路由专家和 1 个共享专家,每个 token 激活 6 个专家,并使用 sqrtsoftplus 评分与无辅助损失 top-k 方法。

该版本还引入 Engram 查找表,词汇规模达 1600 万,压缩词汇约 9.9 万,并设有三层 nextn predict 与 dSpark 模块,目标层为 37 至 39 层。整体看,这是 DeepSeek V4.1 系列一次明确的开放权重更新。