模型权重与算法机密安全
本条为初评草案(AI 辅助编目 · 评于 2026-07):T 阶为三问初评(撬动面 × 停滞度 × 临界性),双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程,其贡献与星阶按 HCF 独立重评,不从暗星自动继承。
前沿模型的权重文件是几十亿美元训练投入的最终结晶,也是所有部署侧安全措施的前提:权重一旦被窃取,安全护栏、使用政策、API 监控全部瞬间归零,窃取者可以在无任何约束下运行和微调模型。RAND 的安全等级框架把抵御能力分为 SL1-SL5,其中 SL5 对应抵御最顶级国家行为体的持续攻击——而目前没有任何一家前沿实验室被认为达到了这个等级。这不是普通的企业信息安全问题,而是文明级的单点故障:越接近变革性 AI,这份文件的战略价值越接近核材料。攻破它意味着为整个 AI 转型期建立一道真正可信的物理与数字防线。
顶级国家行为体拥有供应链植入、内部人策反、零日漏洞囤积等常规企业安全根本无法防御的手段,而权重又必须在训练、推理、研究中被数千张 GPU 和大量员工高频访问——「既要极端保密又要大规模使用」在现有安全架构下近乎矛盾。达到 RAND SL5 级需要机密计算硬件、物理隔离数据中心、内部威胁防御的全栈重建,公认与现状之间有数年差距,且没有任何单一技术能补齐。
RAND(Securing AI Model Weights 安全等级框架)、Anthropic / OpenAI / Google DeepMind 各自的安全团队
读安全工程与机密计算方向(TEE、供应链安全、内部威胁检测),RAND 的权重安全报告是最好的问题地图。进前沿实验室的 security 团队、或做机密计算的硬件/云厂商安全部门;从一个具体子问题切入:如何在数千 GPU 高频访问权重的前提下做到不可导出(weight exfiltration 防御)。
谁在攻这颗暗星 · 攻关者名录5 人
这不是终点站——今天在这颗暗星上攻坚的人,就是明天点亮它、登上星光榜的候选。名录含科研、创业与第三方三类关键角色,初评待核实,欢迎补充与纠正。
去哪家 · 机构与公司名录5 家 · 其中初创/成长期 4
给求职者和投资人的信息增量——不只是听过的大机构,更多是正在攻这颗暗星的初创与新公司(联网实搜、初创优先排序,初评待核实)。