罗盘 / 大模型知识编辑与增量更新
暗星档案 · 未点亮的星大模型知识编辑与增量更新
本条为初评草案（AI 辅助编目）：T 阶为三问初评（撬动面 × 停滞度 × 临界性），双评过 σ 门并红蓝复核后才升"已建档"。查不到的字段留空不编。点亮者会进入亮星候选流程，其贡献与星阶按 HCF 独立重评，不从暗星自动继承。
大模型知识编辑与增量更新T5 量级 · 新星
让大模型学会「精准改一条事实」而不遗忘别的
所属星云打开黑箱·读懂AI的心活下去
暗星编号DS-0754
轴R · 风险与文明安全
领域ai-computing
状态初评草案 · 待双评与红蓝复核
这是什么 · 为什么难
大模型的知识固化在训练权重里，事实过时或出错后无法像编辑数据库那样单点修改——只能整体重训（昂贵）或用 ROME/MEMIT 一类局部编辑方法直接改写中间层前馈投影里的键值对。攻破意味着：企业和开源模型能像打补丁一样持续修正知识库、撤回错误陈述、批量更新法规变化，而不必每次都重新训练整个模型，也不会因编辑而破坏模型其余能力。
卡在哪 · 机制级卡点
现有编辑方法在少量修改（几十条）时有效，但连续编辑几百上千条事实后会出现「渐进遗忘转急剧崩溃」的两阶段失效——编辑权重的漂移累积到临界点后，模型对未编辑内容的表现也断崖式下降，目前没有方法能在大规模连续编辑下保持稳定。
谁在攻
MIT CSAIL 与东北大学团队（Kevin Meng、David Bau 等，ROME/MEMIT 原始工作，发表于 NeurIPS 2022 / ICLR 2023）；相关后续工作发表于 ICLR/NeurIPS，无进一步机构可核实
怎么参与
读 ROME/MEMIT 论文与开源实现（EasyEdit 工具包），在小模型上复现连续编辑实验，观察遗忘曲线