假设你先用中文例句教 AI 分辨喜悦、惊讶和期待,再让它直接处理另一种语言:这套“情绪方向”还能用吗?Nguyen Minh Phuong 的研究给出了肯定迹象。它从示例引发的模型内部活动中提取功能向量——可以理解为一只浓缩了任务规律的“旋钮”——再把它注入模型,无需在推理时重复提供示例。
作者用多语言、多标签情绪识别来测试:一句话可以同时对应多种情绪,比只选一个标签更考验语义理解。实验中,从一种语言提取的功能向量能改善其他语言上的识别,也能在提示词混入干扰标签时帮助模型找回原任务。一个值得留意的具体发现是,把干预分散到多个模型层,明显优于只改一层;而每个模型适合用来构造向量的注意力头数量范围,在不同语言间相对稳定。
这意味着,多语言模型内部可能存在可跨语言复用的任务信号,而不只是各语言的表面词汇规律。不过,作者也明确指出,功能向量只能部分复现上下文学习——即临时给模型几个示例——的效果,尚不能完全替代它。