在大型语言模型（LLM）的持续学习场景中，灾难性遗忘是一个关键挑战。这种现象类似于 “脑腐”（brain rot），指模型在暴露于低质量或新任务数据时，逐渐丧失原有认知能力，导致推理、长上下文理解等性能下降。观点上，及时检测并通过重放缓冲区和弹性权重整合（EWC）等机制缓解遗忘，能显著提升模型的知识保留率，确保其在多任务环境下的稳定性。证据显示，在持续预训练中，垃圾数据会导致 ARC-Challenge 准确率从 74.9% 降至 57.2%，而这些方法可将遗忘率降低 20% 以上。
首先，理解灾难性遗忘的成因。在 LLM 的持续微调过程中，模型参数更新往往优先适应新任务数据分布，而忽略旧任务的表征。这类似于人类大脑在学习新技能时暂时遗忘旧知识，但 AI 模型缺乏自然的巩固机制，导致永久性损失。检测遗忘需定期评估模型在旧任务基准上的表现，例如使用 ARC 推理任务测试抽象概念处理能力，或 RULER 基准检验长上下文检索精度。如果性能下降超过 10%，则确认遗忘发生。实际操作中，可设置自动化监控管道，每微调周期后运行这些基准，阈值设定为 Hedges' g > 0.3 表示显著衰退。
重放缓冲区是缓解遗忘的核心技术之一。其原理是通过维护一个包含旧任务样本的缓冲区，在新任务训练时混合注入这些样本，模拟人类复习过程。证据表明，这种方法在多任务 LLM 中能有效防止知识覆盖，尤其适用于数据隐私允许的场景。落地参数包括：缓冲区大小设定为新任务数据集的 10%-20%，以平衡存储开销和效果；混合比例为旧样本占总批次的 15%-25%，过高会稀释新学习，过低则不足以巩固旧知。实现步骤：1）初始化缓冲区，从旧任务随机采样代表性样本（如使用 K-means 聚类选中心点）；2）在新训练循环中，每批次前从缓冲区抽取固定比例样本，与新数据 shuffle 后输入；3）可选生成式重放，若存储受限，使用 GAN 或扩散模型合成旧分布样本，减少真实数据依赖。监控要点：追踪缓冲区注入后旧任务准确率变化，若提升不足 5%，调整比例或采样策略；风险包括缓冲区污染，若新旧任务语义差异大，需动态过滤不相关样本。
弹性权重整合（EWC）则从参数层面保护关键知识。其机制通过 Fisher 信息矩阵量化每个参数对旧任务的重要性，在新训练损失函数中添加正则化项，惩罚对重要参数的剧烈修改。Kirkpatrick 等人的研究证实，EWC 能将遗忘率控制在 5% 以内，即使在无回放数据的情况下。参数设置：Fisher 矩阵计算使用旧任务的 10-50 个 epoch 数据，采样率视模型规模调整（大模型如 LLaMA-70B 用 1% 子集加速）；惩罚系数 λ 初始为 1000，根据遗忘严重度动态调至 500-5000，过大会抑制新学习。实现清单：1）微调前，在旧任务上计算 Fisher 矩阵 F_i = E [(∂L/∂θ_i)^2 ]，存储为对角近似以节省内存；2）新损失 = 原损失 + (λ/2) * Σ F_i (θ_i - θ_old_i)^2；3）结合 LoRA 等 PEFT 方法，仅对适配器应用 EWC，降低计算负担。监控包括参数变化范数，若重要参数偏移超过阈值（e.g., 0.01），触发回滚；局限是计算开销，对于亿级参数模型，单次 Fisher 需 GPU 小时级时间，可通过在线更新缓解。
结合重放缓冲区与 EWC，形成混合策略，能进一步优化效果。在实践中，先用 EWC 锁定核心参数，再用缓冲区补充数据级巩固，适用于 LLM 的持续微调管道。参数示例：缓冲区比例 20%，λ=2000，训练时每 5 个 epoch 评估一次。回滚策略：若遗忘检测到，暂停新训练，回放纯旧数据 1-2 epoch 恢复。实际案例中，这种组合在 CIFAR-like 任务序列上，将平均遗忘率从 30% 降至 8%，证明其工程价值。
总之，这些方法使 LLM 在面对脑腐风险时更具鲁棒性。资料来源：LLM Brain Rot 项目网站（https://llm-brain-rot.github.io/），描述垃圾数据诱发认知衰退；Kirkpatrick et al. (2017) Overcoming catastrophic forgetting in neural networks。