断网时问本地 AI 一个百科问题,它通常只能靠模型原本记住的内容作答。开发者 mantisalt 写了一个约百行的 Bash 脚本,让 Agent 在普通聊天中搜索、阅读预先下载的维基百科,像给它添了一座不联网也能查的资料室。
这套做法属于 RAG(检索增强生成):先找出相关资料,再把片段交给模型回答。Bash 则是常见的命令行脚本语言,适合把搜索、文本处理和模型调用串起来。脚本只需指向 llama-server——llama.cpp 提供的本地模型接口——便能开始聊天。作者称,即使使用通常能力有限的 LFM2.5-2B,也得到了“出乎意料地好”的结果,Qwen 同样能完成任务;不过材料没有提供系统评测。
它的看点不在刷新效果纪录,而在于把离线 RAG 压缩成容易看懂的小工具:不用庞大框架,也能让 Agent 调用本机知识。代价同样明确:维基内容不会自动更新,用户还得自行准备存储空间和索引。