罗盘 / 自主武器管控
暗星档案 · 未点亮的星

致命自主武器国际管控

本条为初评草案(AI 辅助编目 · 评于 2026-07):T 阶为三问初评(撬动面 × 停滞度 × 临界性),双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程,其贡献与星阶按 HCF 独立重评,不从暗星自动继承。

致命自主武器国际管控T5 量级 · 新星
在自主杀伤系统大规模扩散前建立可验证的管控机制——CCW 谈判僵持多年,至今没有一部有约束力的条约。
暗星编号DS-0259
R · 风险与文明安全
领域civilization-safety
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难

能自主选择并攻击目标的武器系统正从科幻变成现役装备,无人机战争已在真实战场上迭代。它的文明级危险有三层:把开战的政治成本降到接近零;机器对机器的交战速度超出人类决策回路,冲突可能在无人授权下升级;以及大规模杀伤能力向小团体扩散。化学武器和生物武器都在造成灾难后才被条约管住,这颗暗星要做的是在自主武器上把这个顺序反过来。攻破它意味着人类保住"生杀决定必须有人负责"这条底线。

卡在哪 · 机制级卡点

联合国 CCW 采用协商一致原则,任何一个军事大国反对即可无限期拖延,谈判已僵持十余年;军事强国正处于 AI 军备竞争中,谁都不愿先绑住自己的手;更深的技术卡点是核查——自主性藏在软件里,同一架无人机改几行代码就从"人在回路"变成全自主,传统军控的核查手段完全失效。

谁在攻

联合国CCW特定常规武器公约LAWS政府专家组、Stop Killer Robots国际运动、红十字国际委员会(ICRC)武器与国际人道法项目

怎么参与

国际法/军控 + 机器人学或 AI 的双背景最稀缺;进军控智库、红十字国际委员会一类人道法机构或相关学术项目;最有杠杆的子问题是"自主性的可验证分级"——如何从外部核查一个武器系统里人类控制的真实程度。

谁在攻这颗暗星 · 攻关者名录8 人

这不是终点站——今天在这颗暗星上攻坚的人,就是明天点亮它、登上星光榜的候选。名录含科研、创业与第三方三类关键角色,初评待核实,欢迎补充与纠正。

ACADEMIA学界 · 科研4
斯图尔特·罗素Stuart RussellAI教授/反致命自主武器倡导者
加州大学伯克利分校
全球最有影响力的LAWS反对者之一,推动《Slaughterbots》警示片与AI界公开信,主张'生杀决定必须有人负责'的底线
诺埃尔·夏基Noel Sharkey机器人学家/ICRAC主席
谢菲尔德大学、国际机器人武器控制委员会(ICRAC)
作为运动发言人与机器人专家,从技术上论证自主武器无法可靠区分目标、必须保留人类控制
托比·沃尔什Toby WalshAI教授
新南威尔士大学(UNSW)
发起并组织AI研究者反自主武器的多封国际公开信,著《Machines Behaving Badly》推动管控议题
彼得·阿萨罗Peter Asaro哲学家/ICRAC联合创始人
新学院(The New School)、国际机器人武器控制委员会
从伦理与法律角度论证'有意义的人类控制'原则,是学界推动自主武器管控的核心人物之一
THIRD PARTY第三方 · 政策/资助/倡导4
玛丽·韦勒姆Mary Wareham倡导协调人
人权观察(HRW)/阻止杀手机器人运动
长期担任Stop Killer Robots运动的核心协调者,牵头推动对致命自主武器的国际禁止与管控谈判
马克斯·泰格马克Max Tegmark物理学家/未来生命研究所主席
未来生命研究所(FLI)、麻省理工学院
通过FLI制作《Slaughterbots》并组织科学家公开信,把自主武器风险推入公众与政策视野
保罗·沙勒Paul Scharre自主武器政策专家
新美国安全中心(CNAS)
著《无人军队》(Army of None),系统分析机器交战超出人类决策回路的升级风险与可行的人机控制框架
邦妮·多彻蒂Bonnie Docherty国际人道法律师/讲师
哈佛法学院国际人权诊所、人权观察
撰写多份关于致命自主武器的法律报告,主推具约束力的国际条约以在灾难发生前立规

去哪家 · 机构与公司名录5 家 · 其中初创/成长期 0

给求职者和投资人的信息增量——不只是听过的大机构,更多是正在攻这颗暗星的初创与新公司(联网实搜、初创优先排序,初评待核实)。

Automated Decision Research (ADR)非营利
国际(Stop Killer Robots 研究团队)
「制止杀手机器人」运动的监测与研究臂——建立并维护 173 个国家立场档案库 + 25 款真实自主武器系统监测库
↗ 这颗暗星上最实在的信息增量:不是喊口号而是把『谁在造什么、谁支持约束』做成可查数据库,为『可验证管控』提供事实底座
Article 36非营利
2011 创 · 英国
专注武器政策的小型 NGO,提出并推动『有意义的人类控制』(meaningful human control)这一核心概念
↗ 『有意义的人类控制』框架已成为全球 LAWS 谈判的通用语言——一个小机构定义了整个议题的话语坐标系
Stop Killer Robots非营利
2013 创 · 国际联盟(HRW 协调)
由 26 国 60+ 组织(含大赦国际、Article 36、ICRAC)组成的联盟,推动对致命自主武器的有约束力国际条约
↗ 暗星原文点名的『阻止杀手机器人运动』本体;是把碎片化倡导汇聚成统一外交压力的枢纽
SIPRI(斯德哥尔摩国际和平研究所)非营利
1966 创 · 瑞典斯德哥尔摩
『武器系统中的自主性』专项研究——分析自主武器与 AI 军事决策支持系统的核查难题与多边政策路径
↗ 2025 年多次受邀参加联合国 GGE 谈判,是少数正面啃『自主性藏在软件里、传统军控核查手段失效』这一技术死结的研究机构
UNIDIR(联合国裁军研究所)政府/公共
瑞士日内瓦
联合国系统内研究致命自主武器的国际法适用与军控工具箱重构,组织区域磋商与专家会
↗ 唯一嵌在 UN 体制内、能直接为 CCW 谈判供给研究的机构,是打破十余年僵局的官方通道

来源 · 可查证