罗盘 / 部署后分布漂移监测
暗星档案 · 未点亮的星

部署后分布漂移监测

本条为初评草案(AI 辅助编目):T 阶为三问初评(撬动面 × 停滞度 × 临界性),双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程,其贡献与星阶按 HCF 独立重评,不从暗星自动继承。

部署后分布漂移监测T4 量级 · 亮星
模型上线之后,世界变了它却不知道
暗星编号DS-0766
A · 可及性与成员福祉
领域ai-computing
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难

机器学习模型上线后,现实世界的数据分布会随时间漂移(用户行为、市场环境和季节性变化等),模型性能可能悄然下降。2025 年一项全球 91 名机器学习从业者调查中,77% 表示会监测生产系统,23% 表示不会监测;这个样本说明监测仍有缺口,但不能无条件外推到整个行业。攻破意味着建立可靠、低成本、尽量减少标注依赖的漂移与退化检测机制,让实际损失发生前就能告警或触发处置。

卡在哪 · 机制级卡点

现有统计检验方法(KS检验、JS散度、Hellinger距离)能检测输入数据分布变化,但「输入变了」不等于「模型性能真的下降了」,在缺乏及时标注反馈的场景(如信贷审批数周后才知道是否违约)中,如何仅凭特征分布或模型内部信号可靠推断性能退化仍是未解问题。

谁在攻

商业化工具厂商 Evidently、WhyLabs、Fiddler、Arize 等在此领域持续迭代产品,具体技术突破归属未逐一核实

怎么参与

用 Evidently 开源库为一个真实业务模型搭建漂移监测仪表盘,观察不同类型漂移的检测灵敏度

来源 · 可查证