罗盘 / 差分隐私与模型效用权衡
暗星档案 · 未点亮的星差分隐私与模型效用权衡
本条为初评草案（AI 辅助编目）：T 阶为三问初评（撬动面 × 停滞度 × 临界性），双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程，其贡献与星阶按 HCF 独立重评，不从暗星自动继承。
差分隐私与模型效用权衡T5 量级 · 新星
既要数学可证的隐私保护，又不能把模型精度做废
暗星编号DS-0757
轴R · 风险与文明安全
领域ai-computing
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难
差分隐私（DP-SGD）给训练数据提供数学可证的隐私保护，但注入噪声会直接损害模型精度，尤其在严格隐私预算（ε≈1）下精度损失严重，小数据集或异构数据集degradation更明显。攻破意味着：医疗影像、金融风控等强监管场景可以在满足合规隐私预算的同时训练出接近非隐私基线精度的模型，让「合规」和「好用」不再互斥。
卡在哪 · 机制级卡点
噪声注入与梯度裁剪是DP-SGD保证隐私的机制核心，但也是精度损失的根源；现有改进方法（如结合预训练知识、改进噪声调度）能部分缓解，但在严格隐私预算下的精度损失仍是公认的未解难题，尤其是数据量小、类别不均衡时degradation被放大。
谁在攻
学术界持续在NeurIPS/ICML等发表相关方法论文，医疗深度学习应用综述显示74项相关研究，暂未核实到主导产品化机构
怎么参与
用 Opacus（PyTorch 差分隐私库）在小数据集上跑 DP-SGD 训练，对比不同 ε 值下的精度曲线