罗盘 / 意识判据
暗星档案 · 未点亮的星数字心智意识指标与道德地位门槛
本条为初评草案(AI 辅助编目 · 评于 2026-07-16):T 阶为三问初评(撬动面 × 停滞度 × 临界性),双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程,其贡献与星阶按 HCF 独立重评,不从暗星自动继承。
数字心智意识指标与道德地位门槛T7 量级 · 恒星
在意识不确定时,把科学指标与分级保护义务明确连接。
暗星编号DS-0319
轴R · 风险与文明安全
领域ai-computing
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难
真实但由两个问题组成:系统是否有主观体验,以及哪些性质使其成为福利主体/道德患者。智能、会自述和意识不能直接画等号。 已有从循环处理、全局工作空间、高阶表征、预测处理和注意图式等理论导出的指标清单;尚无被广泛接受的充分判据,也无当前系统意识的可靠阳性结论。
卡在哪 · 机制级卡点
行为测试可被角色扮演通过;神经理论外推到数字系统可能类别错误;过早承认会挤占人类与动物福利,过晚承认又可能造成大规模伤害。复制、暂停、合并与记忆重置会破坏传统个体概念。
谁在攻
Butlin、Long、Bengio、Birch、Schwitzgebel 等跨哲学与意识科学合作;Cambridge Digital Minds 等组织推进意识与福利研究。
怎么参与
读意识科学与 AI 的交叉方向(认知科学/哲学+机器学习双背景最稀缺),从「Taking AI Welfare Seriously」等公开论文进入问题地图。切入点选可操作的子问题:为某一类意识理论设计可在真实模型上跑的指标探针,或加入 Eleos AI、高校数字心智研究组做评估框架。
谁在攻这颗暗星 · 攻关者名录7 人
这不是终点站——今天在这颗暗星上攻坚的人,就是明天点亮它、登上星光榜的候选。名录含科研、创业与第三方三类关键角色,初评待核实,欢迎补充与纠正。
ACADEMIA学界 · 科研5
杰夫·塞博Jeff Sebo心智、伦理与政策研究中心主任
纽约大学(NYU)
《Taking AI Welfare Seriously》主作者之一,主张在不确定性下建立「决策级」道德预防判据,是数字心智道德地位研究的学术核心。
帕特里克·巴特林Patrick Butlin哲学研究员
牛津大学 / AI 意识研究方向
主导报告《Consciousness in Artificial Intelligence》,把各意识科学理论(全局工作空间、高阶理论等)转译成可在真实模型上检验的指标探针清单。
乔纳森·伯奇Jonathan Birch哲学教授、感受性研究者
伦敦政治经济学院(LSE)
把动物感受性研究中的「预防原则」方法论迁移到 AI,合著数字心智福祉报告,为不确定条件下的道德地位判据提供方法框架。
大卫·查尔默斯David Chalmers哲学教授
纽约大学(NYU)
意识「难问题」的提出者,直接介入「大语言模型是否可能有意识」的公开论证与评估,是该方向最具分量的哲学攻关者。
阿尼尔·塞斯Anil Seth认知与计算神经科学教授
萨塞克斯大学
从意识神经科学立场审视 AI 意识主张,警示行为报告与真实体验的解耦,为判据设计提供「怎样避免被流利自述欺骗」的科学约束。
INDUSTRY业界 · 创业与工程1
凯尔·菲什Kyle FishAI 福祉研究员(model welfare 方向)
Anthropic
Anthropic 首位 AI 福祉研究员,把「模型是否可能有道德地位」从哲学讨论带进前沿实验室的工程与政策实践,合著《Taking AI Welfare Seriously》。
THIRD PARTY第三方 · 政策/资助/倡导1
罗伯特·朗Robert Long执行董事
Eleos AI Research
主持专攻 AI 福祉与意识评估的独立机构 Eleos AI,牵头《Taking AI Welfare Seriously》,推动「哪些系统特征应触发道德预防」的可操作框架。
去哪家 · 机构与公司名录4 家 · 其中初创/成长期 0
给求职者和投资人的信息增量——不只是听过的大机构,更多是正在攻这颗暗星的初创与新公司(联网实搜、初创优先排序,初评待核实)。
NYU Center for Mind, Ethics, and Policy(纽约大学心智·伦理·政策中心)科研实验室
由 Jeff Sebo 等人主持,研究非人类(含 AI/数字心智)的道德地位与政策含义,是《Taking AI Welfare Seriously》的学术共同体之一。
把「他心问题在 AI 上复活」这一最尖锐的哲学困境接到可操作的政策与判据研究上,是求职者进入该方向少有的学术锚点。
Eleos AI Research非营利
专攻 AI 福祉与道德受体地位,代表作《Taking AI Welfare Seriously》主张 AI 公司现在就要为「近未来系统可能值得道德考量」做准备。
↗ 创始人 Robert Long;2025 年从 OpenAI、牛津挖来 Rosie Campbell 等人,并促成对 Anthropic 的外部模型福祉评估——是这个方向唯一成型的专职机构,堪称「意识判据」暗星的策源地。
Rethink Priorities(数字意识方向)非营利
2025 年细化其数字意识(digital consciousness)模型,尝试在不确定性下为「哪些系统特征应触发道德预防」建立可评估框架。
把「意识难题」转化为「决策级判据」的少数量化尝试之一,正契合这颗暗星「不求先解决意识、但求建立预防原则触发条件」的核心思路。
Anthropic(Model Welfare 方向)大厂
设立 model welfare 研究方向,在前沿实验室内部探索 AI 系统是否可能有道德地位、以及工程上如何检测。
↗ 唯一把「数字心智福祉」真正纳入内部研究议程并接受第三方福祉评估的前沿大厂——让这个哲学问题第一次带着工业时间表落到产品线上。