罗盘 / 推荐对齐
暗星档案 · 未点亮的星推荐系统与人类福祉对齐
本条为初评草案（AI 辅助编目 · 评于 2026-07）：T 阶为三问初评（撬动面 × 停滞度 × 临界性），双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程，其贡献与星阶按 HCF 独立重评，不从暗星自动继承。
推荐系统与人类福祉对齐T6 量级 · 行星
分发算法事实上主宰着文明的注意力流向，可它的目标却和人的长期福祉系统性错位。
暗星编号DS-0100
轴R · 风险与文明安全
领域information-communication
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难
今天决定几十亿人看到什么的，是各平台的推荐算法。它们优化的是停留时长、点击、互动，而不是人的长期福祉、心理健康和信息质量。这是文明级的注意力治理问题：人类集体的注意力被一套与自身利益错位的目标函数在悄悄分配。攻破它，意味着分发算法可以被重新对齐到"让人过得更好"而不只是"让人停得更久"。
卡在哪 · 机制级卡点
卡点是根本性的：一是"人的长期福祉"极难被度量化、变成算法能优化的目标；二是即便能度量，它往往和平台的短期商业激励直接冲突——广告和参与度模式天然奖励"抓注意力"。度量难题与激励对立叠加，让平台内部几乎没有动力真正去做。
谁在攻
人道技术中心（CHT）、学界（斯坦福 HAI 等）；平台内部只有零星尝试——接近无人区
怎么参与
可从计算社会科学 / 人机交互 / AI 对齐方向切入，进 CHT 这类公益技术组织或大学的负责任 AI 实验室，最值得攻的子问题是"福祉的可度量化指标"和"能兼容商业模式的对齐机制"——先把"更好"变成算法能算的东西，是打开这片近乎无人区的第一把钥匙。
谁在攻这颗暗星 · 攻关者名录9 人
这不是终点站——今天在这颗暗星上攻坚的人，就是明天点亮它、登上星光榜的候选。名录含科研、创业与第三方三类关键角色，初评待核实，欢迎补充与纠正。
ACADEMIA学界 · 科研5
乔纳森·斯特雷Jonathan Stray高级科学家
加州大学伯克利分校 人类兼容 AI 中心(CHAI)
该议题最核心的学者，论文《你在优化什么？》系统提出把推荐系统对齐到多元人类价值/福祉的四条技术路径。
斯图尔特·罗素Stuart Russell教授 / 中心主任
伯克利 CHAI
AI 对齐奠基学者，公开论证推荐算法会为提升点击而「操纵用户偏好」，把福祉对齐纳入 AI 对齐框架。
阿尔温德·纳拉亚南Arvind Narayanan计算机科学教授
普林斯顿大学
研究算法放大与社媒推荐的社会影响，著《AI 骗局(AI Snake Oil)》，为推荐系统治理提供实证与祛魅。
拉维·艾耶尔Ravi Iyer研究总监（前 Meta 数据科学家）
南加州大学 Neely 中心
主导「社媒设计准则(Design Code)」，把「上游设计」而非内容审核作为改善平台福祉影响的抓手。
乔纳森·海特Jonathan Haidt社会心理学教授
纽约大学斯特恩商学院
著《焦虑的一代》，以证据论证社媒推荐流对青少年心理健康的系统性损害，为福祉对齐提供需求侧的紧迫性证据。
THIRD PARTY第三方 · 政策/资助/倡导4
特里斯坦·哈里斯Tristan Harris联合创始人
人道技术中心 CHT
前谷歌设计伦理师，提出「争夺注意力」批判与「时间花得值(Time Well Spent)」，是推荐算法福祉对齐议题的头号公众推动者。
阿扎·拉斯金Aza Raskin联合创始人
人道技术中心 CHT
共同创立 CHT，系统揭示参与度优化目标与人类长期福祉的结构性错位。
弗朗西丝·豪根Frances Haugen举报人 / 倡导者
Beyond the Screen（前 Facebook）
2021 年以内部文件揭露 Facebook 明知参与度算法损害福祉仍不改，把「度量-激励错位」变成全球公共议题。
乔·埃德尔曼Joe Edelman创始人
意义对齐研究所 Meaning Alignment Institute
「Time Well Spent」概念共同提出者，长期研究如何把「意义/福祉」变成算法可优化的可度量指标。
去哪家 · 机构与公司名录4 家 · 其中初创/成长期 0
给求职者和投资人的信息增量——不只是听过的大机构，更多是正在攻这颗暗星的初创与新公司（联网实搜、初创优先排序，初评待核实）。
Sparkable非营利
从零搭建首个'桥接式'（bridging-based）排序而非参与度排序的社交平台
↗ 创始人 Vardon Hamdiu 弃职辍学专做——它不是在既有平台修修补补，而是从排序目标函数层重造，是这颗'近无人区'暗星里最纯粹的正面建造者
New_ Public非营利
研究并推动'数字公共空间'，用 Civic Signals 框架定义健康在线空间应达成的目标
↗ Civic Signals 目标体系经 20 国公众调查验证——把'让人过得更好'这个难度量的目标拆成可操作维度，正面回应 stuckReason 第一重'福祉难度量化'
Prosocial Design Network非营利
把学术研究翻译成平台可落地的亲社会设计模式、特性与流程库
↗ 专做'研究→实践'的转化层，为平台内部零星尝试提供可复用的设计证据库——补的是这颗暗星最缺的工程落地环节
Jigsaw（Google 旗下）大厂
做 Perspective API（毒性识别）并资助'桥接上排/毒性下排'等亲社会排序实验
↗ 少数在大平台体内真金白银资助桥接式重排实验的一方——stuckReason 说平台内部'几乎无人做'，它是那个'零星尝试'里最实的一个