罗盘 / 算力治理硬件
暗星档案 · 未点亮的星AI 算力的硬件辅助核验
本条为初评草案(AI 辅助编目 · 评于 2026-07-16):T 阶为三问初评(撬动面 × 停滞度 × 临界性),双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程,其贡献与星阶按 HCF 独立重评,不从暗星自动继承。
AI 算力的硬件辅助核验T6 量级 · 行星
用防篡改认证核验高端 AI 加速器的状态、用量和合规声明。
暗星编号DS-0245
轴R · 风险与文明安全
领域civilization-safety
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难
硬件辅助治理试图在 AI 加速器或其安全边界中加入可审计处理器、防篡改封装和远程认证,以隐私保护方式核验设备、集群或算力使用的特定声明。它可为计算上限、多方授权或模型评测协议提供技术基础,但不能单独判定训练目的或替代法律与国际治理。
卡在哪 · 机制级卡点
尚需证明在物主敌对、供应链攻击、性能约束和隐私要求下仍不可绕过,并需芯片厂商、云平台与多法域共同采用。
谁在攻
FlexHEG 研究群体、GovAI 算力治理研究者,以及芯片可信执行/机密计算团队。
怎么参与
这是硬件安全 + AI 治理的交叉地带,极缺人。路径:硬件安全/可信执行环境(TEE)/密码学背景的人,读 GovAI 的 compute governance 报告和 FlexHEG(hardware-enabled governance mechanisms)相关提案,从一个窄工程子问题切入,比如"如何在加速器上实现一个无法被物主篡改的用量证明"。进 GovAI 这类治理研究机构,或有意愿的芯片安全团队。
谁在攻这颗暗星 · 攻关者名录8 人
这不是终点站——今天在这颗暗星上攻坚的人,就是明天点亮它、登上星光榜的候选。名录含科研、创业与第三方三类关键角色,初评待核实,欢迎补充与纠正。
ACADEMIA学界 · 科研1
约纳达夫·沙维特Yonadav Shavit研究者(前哈佛,现 OpenAI)
哈佛大学 / OpenAI
撰写《What does it take to catch a Chinchilla?》,首次系统提出在芯片上密码学验证训练算力用量的硬件机制,是这颗暗星最关键的工程构想文本。
INDUSTRY业界 · 创业与工程1
吉里什·萨斯特里Girish Sastry研究者
OpenAI
《Computing Power and the Governance of AI》主要作者,奠定'算力是可检测、可管控瓶颈'的理论基础,为硬件级治理提供论证。
THIRD PARTY第三方 · 政策/资助/倡导6
伦纳特·海姆Lennart Heim算力治理研究员
兰德公司(RAND,前 GovAI)
全球算力治理领域最活跃的研究者之一,系统论证算力作为可物理管控瓶颈的治理路径,是硬件级治理构想的核心推动者。
蒂姆·菲斯特Tim Fist技术与国家安全高级研究员
新美国安全中心(CNAS)/ Institute for Progress
主笔《Secure, Governable Chips》,详述在 AI 加速器上内建位置/用途/上限验证机制的硬件方案,是 FlexHEG 类构想的主要推动者。
翁尼·阿尔内Onni Aarne硬件治理研究员
新美国安全中心(CNAS)/ 相关治理研究群体
硬件赋能治理机制(FlexHEG / hardware-enabled governance)方向的共同作者,研究防篡改的芯片级用量证明与多方授权解锁。
马库斯·安德留恩Markus Anderljung政策主任
AI 治理中心(GovAI)
《Computing Power and the Governance of AI》共同作者,系统论证算力作为治理抓手的框架,领导 GovAI 的算力治理政策研究。
赛义夫·汗Saif Khan半导体/算力治理专家
安全与新兴技术中心(CSET)/ 曾任白宫国安会
研究半导体供应链与算力作为 AI 治理杠杆的政策路径,推动把芯片作为可核查的管控点,类比核材料实物管控。
艾伦·达福Allan Dafoe创始主任(现 DeepMind)
AI 治理中心(GovAI)/ Google DeepMind
创立 GovAI——算力治理与硬件赋能机制研究的重镇,奠定该机构对'把治理焊进算力'方向的长期投入。
去哪家 · 机构与公司名录4 家 · 其中初创/成长期 0
给求职者和投资人的信息增量——不只是听过的大机构,更多是正在攻这颗暗星的初创与新公司(联网实搜、初创优先排序,初评待核实)。
Institute for AI Policy and Strategy (IAPS)非营利
无党派 AI 政策智库,设有 Compute Policy Hub,专门研究算力治理与「芯片位置验证(chip location verification)」——用延时地理定位等手段做出口管制执行与条约核查。
↗ 少数把「芯片在哪、被拿去训什么」做成可执行政策方案的新智库,直接把候选说的「地缘可核查抓手」落到芯片位置追踪这个具体子问题上,是硬件治理从概念走向政策的关键推手。
Center for a New American Security (CNAS)非营利
2024 年发布《Secure, Governable Chips》报告,论证 AMD/Apple/Intel/NVIDIA 现有芯片其实已具备大部分治理所需功能,主张在高性能 AI 芯片上加「硬化安全模块+远程认证+可更新许可证」。
↗ 把「治理焊进芯片」从科幻拉回现实——指出所需硬件特性很多已在量产芯片里,是给政策制定者最有说服力的可行性论证,直接软化候选说的「芯片厂商不愿落地」这重阻力。
ARIA(Advanced Research and Invention Agency)政府/公共
英国版 DARPA,委托并资助 FlexHEG 三部报告系列;由 David 'davidad' Dalrymple 主导 Safeguarded AI 项目,探索用数学证明为 AI 控制的关键系统提供可保证的安全性。
↗ 少数真金白银(£59M 量级)押注硬件可保证治理与形式化安全的政府机构,把候选里「几乎没人愿投的高难度方向」变成有国家级资金和明确路线图的攻坚战。
FlexHEG(Flexible Hardware-Enabled Guarantees)机构
为 AI 芯片设计一套硬件级治理栈:在加速器上加「Guarantee Processor」监控用量+「Secure Enclosure」物理防篡改,实现可多方验证、隐私保护、可被国际机构远程更新的算力上限/用途约束。
↗ 候选点名的具体技术路线本尊——把治理焊进芯片这件事目前几乎就等于 FlexHEG;Yoshua Bengio 专门写备忘录背书、称可保证芯片有望 2025 年底问世,是这片近无人区里最成型的工程蓝图。