让 AI 连续处理几千轮对话,最怕两件事:前文装不下,或它开始重复自己。一名开发者在消费级显卡 AMD 7900 XTX 上本地运行 Qwen3.8-Flash-Next,把上下文窗口——模型一次能读取的问题与历史总量——推到 50 万词元,实测容纳 506,849 个词元且未截断。作者报告生成速度为每秒 105–160 词元,从 4K 增至 256K 上下文时,速度下降 18%。
更值得注意的是一次误诊:近 13,000 轮对话中,模型有 266 次用短句复述先前推理。作者原以为上下文过长,后来发现是 preserve_thinking: true 不断把旧推理回填进新提示;已有副本越多,下一轮越容易再重复,移除这些回填内容后问题消失。换句话说,50 万上下文不只是一项容量跑分,也让长期使用中的缓存与历史管理问题浮出水面。不过这些数字均来自作者个人测试,材料未披露质量评分的具体方法。