Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.121 — 2026-11-02
PAPER H 2 约 1 分钟

少数类比特征还少时,逻辑回归怎么救

少数类样本比特征还少时,这套方法改从多数类的边缘寻找分类边界。

假设要从一万笔交易里找出几笔欺诈,但每笔交易又有几十项特征。此时,少数类样本甚至比特征还少,普通逻辑回归——用多项特征估计“欺诈或非欺诈”概率的模型——很容易出现分离:某些特征组合把两类完全隔开,导致模型系数趋向无穷。常见的 SMOTE 会在少数样本之间插值造数据,但这些合成点仍被困在原有样本张成的低维空间里,补不出缺失方向。

Chongsun Park 提出的 Zero-Complement Extrapolation 换了信息来源:不再围着稀少且不稳定的少数类打转,而是观察大量多数类分布的边缘。论文证明,在特征服从多元高斯分布且数据遵循逻辑回归模型时,多数类因分类机制形成的均值偏移,经过协方差校正后,能指向真实分类边界的法线方向;合成少数类则从多数类的高分位边缘向外推,并加入按协方差缩放的离散度,以保持各方向都有变化。作者称,模拟及两个基准数据集的实验中,该方法比 Firth 回归和 SMOTE 更稳定、F1 分数更高。不过材料未给出具体提升幅度,而且核心证明依赖上述分布与模型假设。


供稿材料 SOURCES — 1

← 返回 2026-11-02 · 数据板块