罗盘 / 算力核查
暗星档案 · 未点亮的星算力核查 · 硬件层的 AI 治理机制
算力核查 · 硬件层的 AI 治理机制潜能 T6
国际 AI 条约要像核查核设施一样核查大规模训练——算力是 AI 中唯一可物理盘点的投入品,而核查机制只有论文没有工程。
暗星编号DS-0313
轴R · 风险与文明安全
领域ai-computing
状态初步评估
这是什么 · 为什么难
任何有牙齿的国际 AI 协议都要回答一个问题:怎么知道对方没有在偷偷训练危险系统?数据和算法无法盘点,唯有算力——芯片是实物,有产能、有物流、有能耗特征——可以像核材料一样被追踪核查。硬件级核查机制(如 flexHEG 一类「灵活的硬件保障」提案)设想在芯片层内建可验证的合规证明:既能向对手证明「我没越线」,又不泄露模型与商业机密。这是把冷战核军控的验证智慧移植到 AI 上的关键一环;攻破它,「可验证的 AI 条约」才从外交辞令变成可签署的文本。
卡在哪 · 机制级卡点
卡在密码学、芯片安全与国际机制设计的三重交叉:硬件层的远程证明要抗物理攻击和供应链篡改,现有可信执行环境的安全假设撑不起国家级对手;「证明合规但不泄密」的协议在数学上可行、在真实芯片上无人实现。整个方向停留在智库报告与论文,几乎没有工程团队在做原型。
谁在攻
GovAI、RAND 等智库与学界的算力治理/flexHEG 提案研究者——工程实现近乎无人区
怎么参与
读方向:硬件安全(可信执行环境、抗物理攻击)+ 密码学(零知识证明、远程证明),辅以核军控核查史。切入点:为「已交付芯片的训练用途核查」做一个哪怕玩具级的硬件原型,就是这个领域缺失的那块砖;GovAI、RAND 的算力治理研究岗和硬件安全实验室都是入口。
谁在攻这颗暗星 · 攻关者名录6 人
这里列出正在探索这一问题的研究者、创业者与支持者。人物资料仍在核对,欢迎补充与纠正。
ACADEMIA学界 · 科研2
约纳达夫·沙维特Yonadav Shavit研究者
OpenAI(论文完成于哈佛大学)
撰写《What does it take to catch a Chinchilla?》——通过算力监控核查大规模神经网络训练的开创性论文,为硬件层核查勾出第一张工程蓝图。
海登·贝尔菲尔德Haydn Belfield研究者
剑桥大学生存风险研究中心(CSER)
算力治理论文的合著者,从国际安全与军控史角度论证芯片层可验证合规机制的可行性。
INDUSTRY业界 · 创业与工程1
吉里什·萨斯特里Girish Sastry研究者
曾任 OpenAI
《Computing Power and the Governance of AI》领衔作者之一,系统阐述算力可追踪、可核查的治理杠杆特性。
THIRD PARTY第三方 · 政策/资助/倡导3
伦纳特·海姆Lennart Heim算力治理研究员
RAND(曾在 GovAI / Centre for the Governance of AI)
算力治理领域最活跃的研究者之一,系统论证「算力是 AI 中唯一可物理盘点的投入品」,是硬件级核查机制的主要提案人。
马库斯·安德利永Markus Anderljung政策主任
GovAI(AI 治理中心)
领衔 GovAI 的算力治理与国际机制研究,是 attackers 名单中 GovAI 一脉的政策核心,共同作者《Computing Power and the Governance of AI》。
迈尔斯·布伦戴奇Miles BrundageAI 政策研究者
独立(曾任 OpenAI 政策研究负责人)
算力治理论文合著者,长期推动把可验证的技术机制嵌入 AI 国际协议,是「可核查 AI 条约」议程的主要倡导者之一。
去哪家 · 机构与公司名录4 家 · 其中初创/成长期 0
了解正在研究或开发相关技术的团队,寻找工作与合作机会。机构资料仍在核对。
Centre for the Governance of AI (GovAI)非营利
算力治理与硬件核查机制的核心政策研究方,产出 flexHEG 一类提案的理论框架
↗ 算力治理学术议程的源头机构之一;这条赛道目前几乎全是智库论文、极少工程原型,GovAI 是把「算力是唯一可物理盘点的 AI 投入品」这一核查逻辑讲清楚的关键学术推手
Institute for Progress (IFP)非营利
推动基于硬件的验证(hardware-based verification)加速 AI 安全扩散的政策与技术路径
↗ 把硬件核查从纯安全叙事扭到「验证反而能加速 AI 扩散」的正和框架,为该方向争取产业与政策拉力——恰好补上这条赛道「长期没有产业拉力」的死穴
Longview Philanthropy非营利
面向硬件使能机制(HEMs)AI 验证的专项资助方,发 RFP 招募工程原型团队
↗ 这条几乎无人区的赛道最缺的是资金拉力——Longview 的 HEMs 专项招标是把学界论文往真实芯片原型推的少数资金入口,值得工程团队盯
FlexHEG Initiative(Flexible Hardware-Enabled Guarantees)机构
设计芯片层的「保障处理器 + 防篡改封装」,让 AI 芯片能隐私保护地证明自己没越 FLOP/架构红线
↗ 该方向最成体系的工程化提案,2024 中期报告(Bengio 署名)+ 2025 报告系列(概述/技术选项/国际安全应用);把冷战核查智慧移植到 AI 硬件,是「可验证 AI 条约」从外交辞令变可签文本的关键枢纽