本地模型跑得慢，就像电脑突然卡住：你知道不对劲，却很难判断是任务排队、内存吃紧，还是模型“读题”和“答题”的某一步拖了后腿。llama-doctor 是一款命令行诊断工具，也提供实时仪表盘。它连接正在运行的 llama.cpp 或 Unsloth Studio 服务器，读取 Metrics——服务器持续记录的速度、队列、缓存和内存等数据，再按严重程度指出问题。
它尤其会区分 Prefill（模型先读完输入、建立内部状态）与 Decode（随后逐字生成回答），还检查队列压力、剩余内存，以及 Prefix cache——复用相同输入开头计算结果的缓存——是否得到有效利用。诊断结果可映射为命令退出码，因此定时任务也能据此自动拦截异常。作者称该工具只读取信息、仅依赖 Python 标准库，要求 Python 3.10 以上；目前仍在征集更多服务器环境的测试与修复。