想在自己的电脑上运行能力更强的 AI,常见难题不是模型找不到,而是文件太大、内存吃不消。Nanbeige4.3-33B 正在尝试缩小这道门槛:它约有330亿个参数,定位为后续小模型的“教师模型”,也就是先练出一个能力较强的版本,再用它帮助更小的模型学习。
开发者称,Nanbeige4.3-33B 在多项基准测试中超过 Qwen3.8-27B。基准测试是用固定题目和评分规则比较模型,但成绩也会受提示词、推理设置和评测实现影响。更实际的进展来自社区:其 GGUF 量化版已把体积压到13.7GB。量化是用精度更低的数字保存模型,以减少文件和内存占用;GGUF 则是 llama.cpp 生态常用的本地模型格式,可通过 llama.cpp、Ollama 等工具加载。代价是压缩后可能损失部分能力或稳定性。现有材料没有给出完整分项成绩和量化前后对照,因此“超过 Qwen”的结论仍以开发者自述为准。