转换超大模型,有点像整理一座塞不进屋里的仓库:传统做法若先把全部货物搬进来,内存和显存很快就会不够。tftf 换成流水作业,每次只读取、转换并写出一个张量——也就是保存模型权重的多维数字数组——随后立即释放,因此无需把完整模型同时装进 RAM 或 VRAM。
它通过内存映射按需读取 safetensors 文件的局部内容,也支持分片模型。具体工作包括把 DeepSeek-V3/R1 风格的 FP8 权重转换为 BF16 或 FP16,以及边转换边完成 LoRA 合并。LoRA 是附加在基础模型上的小型增量权重;合并后可得到不必另挂适配器的完整模型文件。工具还提供格式转换常用的权重筛选、重命名、数据类型转换和写入前验证。需要注意的是,“只处理当前张量”不等于内存占用恒定为零:峰值仍取决于当前输入、输出张量及转换缓冲区,项目材料也未提供实测资源占用或速度数据。