想在自己的电脑上跑 AI，又不愿手工拼装一整套工具，KoboldCpp 就是那种“下载、选模型、直接用”的前端：它把本地推理能力封装成单文件应用、网页界面和接口，让消费级硬件也能运行 GGUF——一种常见的本地模型文件格式。1.117 版最值得留意的是兼容性补强。
新版本加入 Ollama 兼容的 embeddings 接口——把文本转成可供语义搜索和 RAG 检索使用的数字向量，并支持 Ollama 风格的流式输出与工具调用。工具调用指模型发出结构化请求，让宿主程序替它搜索、读文件或调用服务。发布说明称，只需把端口设为 11434，原本使用 Ollama 的软件即可直接连接 KoboldCpp。
多模态图片现在会插入对话中的原始位置，而非统一堆在上下文顶部；开发者预计这能改善多数模型理解图文关系的连贯性。需要注意的是，这也是 CUDA 下 --splitmode row 的最后一个支持版本，相关用户之后需迁移到 tensor split 或 layer split。