NVIDIA Nemotron-3.5 Bolt E4B 量化权重在 Hugging Face 放出

开源社区放出 NVIDIA Nemotron-3.5 Bolt E4B 的 GGUF 量化版本，页面上给出 BF16 与 Q4_K_M 等配置，并与 Gemma4 E4B-it、Qwen3.5 4B 和 Nemotron-3 Nano-4B 进行对比。

从基准表格看，该模型在 RoleMRC、Brevity Benchmark、RULER 64K 和 LongMemEval 等测试中表现突出，量化版在部分任务上仍保持较高分数。测试集涵盖 MultiChallenge、ToolSandbox、Tau2-Bench、IHEval、StructEval-T 和 IFBench 等现代 Agentic AI 能力，重点关注工具调用和指令遵循。

NVIDIA 在页面中强调，可信 AI 是共同责任，开发者应根据行业与用例自行评估模型是否满足要求。该权重由 unsloth 社区维护，便于本地部署和推理实验。