灾难性遗忘是神经网络和深度学习系统中观察到的一种现象，即学习新信息会导致先前获得知识的突然或严重丧失。这一局限性主要出现在多任务的顺序训练过程中：模型为优化新任务而调整参数，从而牺牲了对旧任务的性能。灾难性遗忘与人类学习的累积特性形成鲜明对比，后者能够在不丢失旧技能的前提下习得新技能。因此，这一问题成为持续学习和自适应人工智能的核心挑战。
应用场景与实例
灾难性遗忘常出现在模型需要对非平稳数据流进行更新、适应新领域或进行多任务训练时。例如，一个语音助手在学习新语言时可能会遗忘对旧语言的识别能力。推荐系统或欺诈检测系统在面对不断变化的行为数据时，也容易受到此类影响。
主要软件工具、库与框架
许多框架可用于探索缓解灾难性遗忘的策略，包括PyTorch和TensorFlow，以及专用库如Avalanche、Continuum和sequoia。这些工具支持实现如Elastic Weight Consolidation (EWC)、Learning without Forgetting (LwF)和基于记忆的正则化等方法。
最新进展与趋势
当前研究聚焦于实现真正持续学习的架构，受人脑启发。外部记忆、动态正则化与迁移学习等混合方法日益受到关注。基础模型（foundation models）和模块化方法的进步也为在复杂真实环境中缓解灾难性遗忘提供了新思路。