你只拿到一台机器的两个读数,能不能反推它内部怎样切字?bayes-song 提出的正是这个问题:聊天 API——模型服务对外开放的调用接口——通常不交付底层 Tokenizer 文件,却会泄露两类信号。Tokenizer(分词器)负责把文字切成模型处理的 token;切法会影响上下文长度、计费和实际输入。
第一类信号是某段文字会产生多少个 token。第二类是取前 n 个 token 后,能解码出怎样的文字前缀。后者尤其关键:只知道总数,可能无法区分 (a, bc) 和 (ab, c) 两种切法;前缀结果却能帮助判断合并顺序。作者设想让模型按受控方式复述文字,从普通聊天界面构造这个“前缀 oracle”——oracle 指只能回答特定问题的黑箱接口。
它的价值一体两面:开发者或可据此兼容闭源模型的计数和切分行为;服务方也该看到,正常接口返回的 token 数与前缀回显可能组成侧信道,间接暴露内部规则。不过目前材料提出的是可行性问题,尚未给出完整重建结果或实验数字。