罗盘 / 算力核查
暗星档案 · 未点亮的星

算力核查 · 硬件层的 AI 治理机制

本条为初评草案(AI 辅助编目 · 评于 2026-07):T 阶为三问初评(撬动面 × 停滞度 × 临界性),双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程,其贡献与星阶按 HCF 独立重评,不从暗星自动继承。

算力核查 · 硬件层的 AI 治理机制T6 量级 · 行星
国际 AI 条约要像核查核设施一样核查大规模训练——算力是 AI 中唯一可物理盘点的投入品,而核查机制只有论文没有工程。
暗星编号DS-0313
R · 风险与文明安全
领域ai-computing
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难

任何有牙齿的国际 AI 协议都要回答一个问题:怎么知道对方没有在偷偷训练危险系统?数据和算法无法盘点,唯有算力——芯片是实物,有产能、有物流、有能耗特征——可以像核材料一样被追踪核查。硬件级核查机制(如 flexHEG 一类「灵活的硬件保障」提案)设想在芯片层内建可验证的合规证明:既能向对手证明「我没越线」,又不泄露模型与商业机密。这是把冷战核军控的验证智慧移植到 AI 上的关键一环;攻破它,「可验证的 AI 条约」才从外交辞令变成可签署的文本。

卡在哪 · 机制级卡点

卡在密码学、芯片安全与国际机制设计的三重交叉:硬件层的远程证明要抗物理攻击和供应链篡改,现有可信执行环境的安全假设撑不起国家级对手;「证明合规但不泄密」的协议在数学上可行、在真实芯片上无人实现。整个方向停留在智库报告与论文,几乎没有工程团队在做原型。

谁在攻

GovAI、RAND 等智库与学界的算力治理/flexHEG 提案研究者——工程实现近乎无人区

怎么参与

读方向:硬件安全(可信执行环境、抗物理攻击)+ 密码学(零知识证明、远程证明),辅以核军控核查史。切入点:为「已交付芯片的训练用途核查」做一个哪怕玩具级的硬件原型,就是这个领域缺失的那块砖;GovAI、RAND 的算力治理研究岗和硬件安全实验室都是入口。

谁在攻这颗暗星 · 攻关者名录6 人

这不是终点站——今天在这颗暗星上攻坚的人,就是明天点亮它、登上星光榜的候选。名录含科研、创业与第三方三类关键角色,初评待核实,欢迎补充与纠正。

ACADEMIA学界 · 科研2
约纳达夫·沙维特Yonadav Shavit研究者
OpenAI(论文完成于哈佛大学)
撰写《What does it take to catch a Chinchilla?》——通过算力监控核查大规模神经网络训练的开创性论文,为硬件层核查勾出第一张工程蓝图。
海登·贝尔菲尔德Haydn Belfield研究者
剑桥大学生存风险研究中心(CSER)
算力治理论文的合著者,从国际安全与军控史角度论证芯片层可验证合规机制的可行性。
INDUSTRY业界 · 创业与工程1
吉里什·萨斯特里Girish Sastry研究者
曾任 OpenAI
《Computing Power and the Governance of AI》领衔作者之一,系统阐述算力可追踪、可核查的治理杠杆特性。
THIRD PARTY第三方 · 政策/资助/倡导3
伦纳特·海姆Lennart Heim算力治理研究员
RAND(曾在 GovAI / Centre for the Governance of AI)
算力治理领域最活跃的研究者之一,系统论证「算力是 AI 中唯一可物理盘点的投入品」,是硬件级核查机制的主要提案人。
马库斯·安德利永Markus Anderljung政策主任
GovAI(AI 治理中心)
领衔 GovAI 的算力治理与国际机制研究,是 attackers 名单中 GovAI 一脉的政策核心,共同作者《Computing Power and the Governance of AI》。
迈尔斯·布伦戴奇Miles BrundageAI 政策研究者
独立(曾任 OpenAI 政策研究负责人)
算力治理论文合著者,长期推动把可验证的技术机制嵌入 AI 国际协议,是「可核查 AI 条约」议程的主要倡导者之一。

去哪家 · 机构与公司名录4 家 · 其中初创/成长期 0

给求职者和投资人的信息增量——不只是听过的大机构,更多是正在攻这颗暗星的初创与新公司(联网实搜、初创优先排序,初评待核实)。

Centre for the Governance of AI (GovAI)非营利
2018 创 · 独立非营利研究中心 · 英国牛津
算力治理与硬件核查机制的核心政策研究方,产出 flexHEG 一类提案的理论框架
↗ 算力治理学术议程的源头机构之一;这条赛道目前几乎全是智库论文、极少工程原型,GovAI 是把「算力是唯一可物理盘点的 AI 投入品」这一核查逻辑讲清楚的关键学术推手
Institute for Progress (IFP)非营利
2022 创 · 非营利政策智库 · 美国华盛顿特区
推动基于硬件的验证(hardware-based verification)加速 AI 安全扩散的政策与技术路径
↗ 把硬件核查从纯安全叙事扭到「验证反而能加速 AI 扩散」的正和框架,为该方向争取产业与政策拉力——恰好补上这条赛道「长期没有产业拉力」的死穴
Longview Philanthropy非营利
2018 创 · 慈善资助方 · 英国伦敦
面向硬件使能机制(HEMs)AI 验证的专项资助方,发 RFP 招募工程原型团队
↗ 这条几乎无人区的赛道最缺的是资金拉力——Longview 的 HEMs 专项招标是把学界论文往真实芯片原型推的少数资金入口,值得工程团队盯
FlexHEG Initiative(Flexible Hardware-Enabled Guarantees)机构
跨机构研究倡议 · 国际(含 Yoshua Bengio 参与)
设计芯片层的「保障处理器 + 防篡改封装」,让 AI 芯片能隐私保护地证明自己没越 FLOP/架构红线
↗ 该方向最成体系的工程化提案,2024 中期报告(Bengio 署名)+ 2025 报告系列(概述/技术选项/国际安全应用);把冷战核查智慧移植到 AI 硬件,是「可验证 AI 条约」从外交辞令变可签文本的关键枢纽

来源 · 可查证