把论文交给 AI 整理很方便，但未公开的数据、同行评审材料或医疗记录一旦传上云，研究者就得把控制权交给服务商。据《Nature》报道，一些科研人员正改用 Ollama、LM Studio 等工具，把大语言模型下载到个人电脑或机构设备上离线运行。隐私之外，他们还看重成本和可复现性——固定模型版本与设置后，同一套检索不容易因云端模型悄然升级而变样。
这些工具通常采用检索增强生成（RAG）：先从指定论文库找出相关段落，再让模型据此回答，像先翻资料再写摘要。眼科 AI 研究者 Jayashree Kalpathy-Cramer 用 Qwen 和 NVIDIA Nemotron，通过 Ollama 索引十年的开放获取论文。她的系统每天筛选新论文，还会让三四个模型分别回答，再由另一个模型综合；每项摘要结论都回到原文段落核对。本地推理不按调用收费，因此这种反复比对更容易长期运行。
代价也很实际：运行模型的硬件越来越贵，速度和能力受设备限制；而且找到出处不等于结论可靠，输出仍需人工审查。本地 AI 不是把文献检索自动化到底，而是让研究者更能掌控资料、版本和账单。