让手机里的 AI 回答刚发生的事,通常会撞上知识过期:材料中的演示里,关闭联网后,Qwen 3 1.7B(约 17 亿参数的小模型)编错了 Apple 9 月活动的信息;打开网页搜索后,它给出正确回答,并引用了 5 个页面。更特别的是,整个过程不用搜索 API(搜索服务给程序的专用接口),也没有后端服务器,聊天内容仍留在设备上。
据项目作者介绍,应用 Private Mind 会让隐藏的 WebView(应用内嵌的浏览器)打开 DuckDuckGo,必要时改用 Brave 或 Mojeek,再访问排名靠前的网页。网页先被切成约 500 字符的小块,由手机上的 LFM2.5 嵌入模型——用来判断文字相关性的模型——配合关键词,从中选出最相关的 6 块,而且每个网站最多占 3 块。若只有一个网站提出某项说法,权重还会低于多个网站相互印证的内容。
这套筛选才是关键:小模型的上下文预算有限,没法一次读完 5 个网页,只能把几百字真正有用的材料递给它。联网功能按聊天单独开启,默认关闭;作者称模型、筛选和回答都在手机上运行。