大模型知识编辑与增量更新

大模型的知识固化在训练权重里，事实过时或出错后无法像编辑数据库那样单点修改——只能整体重训（昂贵）或用 ROME/MEMIT 一类局部编辑方法直接改写中间层前馈投影里的键值对。攻破意味着：企业和开源模型能像打补丁一样持续修正知识库、撤回错误陈述、批量更新法规变化，而不必每次都重新训练整个模型，也不会因编辑而破坏模型其余能力。

现有编辑方法在少量修改（几十条）时有效，但连续编辑几百上千条事实后会出现「渐进遗忘转急剧崩溃」的两阶段失效——编辑权重的漂移累积到临界点后，模型对未编辑内容的表现也断崖式下降，目前没有方法能在大规模连续编辑下保持稳定。

MIT CSAIL 与东北大学团队（Kevin Meng、David Bau 等，ROME/MEMIT 原始工作，发表于 NeurIPS 2022 / ICLR 2023）；相关后续工作发表于 ICLR/NeurIPS，无进一步机构可核实

读 ROME/MEMIT 论文与开源实现（EasyEdit 工具包），在小模型上复现连续编辑实验，观察遗忘曲线