罗盘 / 政府AI采购强制算法影响评估
暗星档案 · 未点亮的星政府AI采购强制算法影响评估
本条为初评草案（AI 辅助编目）：T 阶为三问初评（撬动面 × 停滞度 × 临界性），双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程，其贡献与星阶按 HCF 独立重评，不从暗星自动继承。
政府AI采购强制算法影响评估T5 量级 · 新星
政府买AI系统前,先强制算清楚它会伤害谁
暗星编号DS-0862
轴R · 风险与文明安全
领域governance-institutions
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难
自动化决策系统影响公民权益(福利资格、签证审批等)前,是否经过系统性的风险评估,长期缺乏制度化要求。加拿大 2019 年生效的《自动化决策指令》要求联邦部门在开发、采购或部署自动化决策系统前,必须完成强制性的算法影响评估问卷,系统按影响等级(I-IV级)决定是否需要人工干预点,已建立起公开的政府算法采购供应商名录。攻破意味着:政府对AI系统的采购从先上线后补救变成上线前强制风险分级,高风险自动化决策必须保留人类最终裁决权。
卡在哪 · 机制级卡点
影响评估问卷本身依赖采购方、开发方自我申报,缺乏独立第三方核实机制,存在走过场填报的风险;评估标准如何量化影响公民权益的程度在复杂AI系统(尤其大模型类)上愈发模糊,现行框架针对的多是传统规则式自动化系统;评估流程增加采购周期与成本,地方政府和小机构执行动力普遍不足。
谁在攻
加拿大财政部委员会秘书处(TBS)自动化决策指令项目组;OECD AI 政策观察站(OECD.AI)
怎么参与
查阅加拿大政府公开的算法影响评估工具与已完成评估的系统清单,了解具体评分逻辑。