罗盘 / 政府算法决策的可解释问责
暗星档案 · 未点亮的星

政府算法决策的可解释问责

本条为初评草案(AI 辅助编目):T 阶为三问初评(撬动面 × 停滞度 × 临界性),双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程,其贡献与星阶按 HCF 独立重评,不从暗星自动继承。

政府算法决策的可解释问责T5 量级 · 新星
政府用AI打分福利/风险时,公民有权知道凭什么被打了那个分
暗星编号DS-0678
R · 风险与文明安全
领域governance-institutions
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难

荷兰SyRI福利欺诈风险评分算法2020年被法院裁定违反《欧洲人权公约》第8条隐私权,因其风险模型和判定指标完全不透明——公民无法知道自己为何被标记为'高风险',政府以'防止骗保者规避'为由拒绝公开。攻破意味着建立一套可执行的标准:政府用算法做涉及公民权利的决策(福利、贷款、假释、移民审查)时,必须能向受影响者提供可理解的决策依据,并接受独立审计。

卡在哪 · 机制级卡点

'可解释'与'防止规避'之间存在真实张力(公开判定逻辑可能被利用规避);机器学习模型(尤其深度学习)本身的可解释性在技术上仍有限;不同国家对'算法问责'的立法进度差异巨大,多数国家仍无强制披露要求,个案诉讼(如SyRI)只能事后纠正、无法前置预防。

谁在攻

AlgorithmWatch(荷兰SyRI案的推动与记录机构);Digital Freedom Fund(协助起诉SyRI案的法律组织);荷兰法院(SyRI案判例本身已成为欧洲判例法参照点)

怎么参与

研究本国是否存在类似福利/风险评分算法及其透明度,或加入AlgorithmWatch等组织的公众监督项目