罗盘 / 开源前沿模型发布的风险收益机制
暗星档案 · 未点亮的星开源前沿模型发布的风险收益机制
本条为初评草案（AI 辅助编目）：T 阶为三问初评（撬动面 × 停滞度 × 临界性），双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程，其贡献与星阶按 HCF 独立重评，不从暗星自动继承。
开源前沿模型发布的风险收益机制T5 量级 · 新星
该不该把最强AI模型的权重直接公开下载
暗星编号DS-0946
轴R · 风险与文明安全
领域governance-institutions
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难
2025年DeepSeek以远低于西方前沿实验室的成本发布开源权重推理模型R1，性能逼近顶尖闭源模型，引发关于'该不该把最强AI模型权重直接公开'的全球政策辩论——开放权重能加速研究普惠、防止少数公司垄断AI能力，但一旦发布就无法撤回，若被用于生物武器设计、网络攻击等恶意场景也无法事后限制访问。攻破意味着有一套被广泛接受、可操作的评估框架，能在模型发布前判断其开放权重的净风险收益，而不是每家公司各自拍板。
卡在哪 · 机制级卡点
卡在'差异化伤害'难以量化：现有研究试图评估开放权重模型相对于现有技术（如互联网已有信息、闭源模型API）带来的'增量'风险，但方法论仍处早期，各国监管态度分裂（欧盟AI法案对开源模型有部分豁免、美国政策摇摆），商业竞争压力（开源模型抢占市场份额）与安全审慎之间存在直接利益冲突。
谁在攻
DeepSeek（2025年发布开源权重R1模型，直接触发本轮政策辩论）；Meta AI（Llama系列开源权重发布的长期实践者）；前沿模型论坛（Frontier Model Forum）与相关安全评估研究团队（如发表《Estimating Worst-Case Frontier Risks of Open-Weight LLMs》的研究者）
怎么参与
关注Frontier Model Forum与IISS关于开源模型地缘政治的公开报告（学习）；AI治理政策研究方向（研究）