在大型语言模型（LLM）的持续学习场景中，灾难性遗忘是一个关键挑战。这种现象类似于“脑腐”（brain rot），指模型在暴露于低质量或新任务数据时，逐渐丧失原有认知能力，导致推理、长上下文理解等性能下降。观点上，及时检测并通过重放缓冲区和弹性权重整合（EWC）等机制缓解遗忘，能显著提升模型的知识保留率，确保其在多任务环境下的稳定性。证据显示，在持续预训练中，垃圾数据会导致ARC-Challenge准确率从74.9%降至57.2%，而这些方法可将遗忘率降低20%以上。
首先，理解灾难性遗忘的成因。在LLM的持续微调过程中，模型参数更新往往优先适应新任务数据分布，而忽略旧任务的表征。这类似于人类大脑在学习新技能时暂时遗忘旧知识，但AI模型缺乏自然的巩固机制，导致永久性损失。检测遗忘需定期评估模型在旧任务基准上的表现，例如使用ARC推理任务测试抽象概念处理能力，或RULER基准检验长上下文检索精度。如果性能下降超过10%，则确认遗忘发生。实际操作中，可设置自动化监控管道，每微调周期后运行这些基准，阈值设定为Hedges' g > 0.3表示显著衰退。
重放缓冲区是缓解遗忘的核心技术之一。其原理是通过维护一个包含旧任务样本的缓冲区，在新任务训练时混合注入这些样本，模拟人类复习过程。证据表明，这种方法在多任务LLM中能有效防止知识覆盖，尤其适用于数据隐私允许的场景。落地参数包括：缓冲区大小设定为新任务数据集的10%-20%，以平衡存储开销和效果；混合比例为旧样本占总批次的15%-25%，过高会稀释新学习，过低则不足以巩固旧知。实现步骤：1）初始化缓冲区，从旧任务随机采样代表性样本（如使用K-means聚类选中心点）；2）在新训练循环中，每批次前从缓冲区抽取固定比例样本，与新数据shuffle后输入；3）可选生成式重放，若存储受限，使用GAN或扩散模型合成旧分布样本，减少真实数据依赖。监控要点：追踪缓冲区注入后旧任务准确率变化，若提升不足5%，调整比例或采样策略；风险包括缓冲区污染，若新旧任务语义差异大，需动态过滤不相关样本。
弹性权重整合（EWC）则从参数层面保护关键知识。其机制通过Fisher信息矩阵量化每个参数对旧任务的重要性，在新训练损失函数中添加正则化项，惩罚对重要参数的剧烈修改。Kirkpatrick等人的研究证实，EWC能将遗忘率控制在5%以内，即使在无回放数据的情况下。参数设置：Fisher矩阵计算使用旧任务的10-50个epoch数据，采样率视模型规模调整（大模型如LLaMA-70B用1%子集加速）；惩罚系数λ初始为1000，根据遗忘严重度动态调至500-5000，过大会抑制新学习。实现清单：1）微调前，在旧任务上计算Fisher矩阵F_i = E[ (∂L/∂θ_i)^2 ]，存储为对角近似以节省内存；2）新损失 = 原损失 + (λ/2) * Σ F_i (θ_i - θ_old_i)^2；3）结合LoRA等PEFT方法，仅对适配器应用EWC，降低计算负担。监控包括参数变化范数，若重要参数偏移超过阈值（e.g., 0.01），触发回滚；局限是计算开销，对于亿级参数模型，单次Fisher需GPU小时级时间，可通过在线更新缓解。
结合重放缓冲区与EWC，形成混合策略，能进一步优化效果。在实践中，先用EWC锁定核心参数，再用缓冲区补充数据级巩固，适用于LLM的持续微调管道。参数示例：缓冲区比例20%，λ=2000，训练时每5个epoch评估一次。回滚策略：若遗忘检测到，暂停新训练，回放纯旧数据1-2 epoch恢复。实际案例中，这种组合在CIFAR-like任务序列上，将平均遗忘率从30%降至8%，证明其工程价值。
总之，这些方法使LLM在面对脑腐风险时更具鲁棒性。资料来源：LLM Brain Rot项目网站（https://llm-brain-rot.github.io/），描述垃圾数据诱发认知衰退；Kirkpatrick et al. (2017) Overcoming catastrophic forgetting in neural networks。