给同一个模型换“运行软件”，就像给同一辆车换不同变速箱：回答速度和等待时间可能差很多。这次，Basalt 开发者 jesdga95 用一张 RTX 5090 和 128GB 内存，横测 Strata、Infernix、capy-flash、ninfer-ext、ninfer、llama.cpp 与 Basalt，为 Qwen 3.8 Flash Next 的本地部署补上了一组同机数据。
测试统一使用同一 checkpoint——保存模型权重与配置的文件集合，并让各引擎按自身文档转换 NVIDIA NVFP4、处理相同的七个贪心生成请求。结果中，Basalt 的短上下文生成速度最高达每秒 354 tokens；在 20 万 token 上下文下仍为 160 tokens/s，首个 token 等待 23.79 秒。Infernix 对应为 158 tokens/s 和 31.81 秒；llama.cpp 则为 32 tokens/s 和 162.86 秒。长上下文的输入处理速度上，Basalt 也达到 8,609 tokens/s。
这组数字比此前缺少完整对照条件的项目方成绩更有参考价值，因为机器、模型版本和请求得到统一。不过，测试者同时是 Basalt 开发者，且结果仍会受配置调优与负载设计影响，适合视为选型线索，而非最终定论。