Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.008 — 2026-07-12
NEWS 约 1 分钟

检索模型开始在手机离线跑

VultronRetriever把检索与问答搬上iPhone,离线处理私人文档

想让 AI 搜自己的笔记、合同或照片,通常得先把资料交给云端。VultronRetriever 想把这一步留在手机里:发布者展示了它在 iPhone 上离线完成问答和文档 embedding——也就是把文字转成可比较的数字,以便找出与问题最相关的内容。这样做为端侧 RAG 提供了新选择:先检索资料,再据此回答,私人文件可以少出设备,响应也不必等待远程服务器。

这组模型覆盖 0.8B、4.5B 和 8B 三种体量。发布者称,8B 版 Prime 相比此前同级领先模型,向量索引——保存并搜索 embedding 的数据结构——最多缩小 16 倍,处理吞吐量提高 12 倍;0.8B 版 Flash 还能完全离线、每分钟索引最多 60 张图片。索引更小尤其关键,因为手机的内存、存储和算力都比服务器紧张。不过,这些排名与性能数字目前来自作者的 Reddit 发布帖,材料未提供具体 iPhone 型号、功耗或独立测试结果。


供稿材料 SOURCES — 1

← 返回 2026-07-12 · 科技板块