不是每个问题都需要最强、最贵的 AI。像“改写一句话”可以交给小模型,复杂推理再升级。Thuwarakesh Murallie 10 月 5 日在 Towards Data Science 介绍了一条轻量路径:用 Jev 先判断任务复杂度,再把请求分配给不同档位的模型。模型路由——在多个模型间自动分配请求——因此不再只是事后优化,而能成为系统设计的一部分。
关键是,Jev 不负责生成答案,只返回结构化判断。它可以从预先设定的模型档位中选一项,并给出各选项的概率和置信信号,程序随后按结果走不同分支。据 TypeSafe AI 文档,路由、分类和评分都是 Jev 的适用场景;但置信度不等于正确率。高影响操作仍应设置保守阈值、后备路径或人工复核。现有材料未披露成本降幅或可靠性测试结果,因此这篇文章更适合用来理解架构思路,而不是验证效果。