Katastrofalno zaboravljanje: zašto AI, kada nauči novu vještinu, zaboravi staru?

灾难性遗忘：为何AI学会新技能就会忘记旧本领？

在人工智能领域，一个令人困扰的现象长期存在：当一个训练有素的AI模型学习一项新任务时，它可能会像被“格式化”一样，彻底遗忘之前掌握的所有技能。这种现象被称为“灾难性遗忘”。它不仅是AI迈向通用智能道路上的主要障碍，也生动地揭示了当前主流AI与人类学习方式的根本差异。

灾难性遗忘的本质：不稳定的知识连接

要理解灾难性遗忘，我们可以将AI的神经网络想象成一个由无数旋钮（参数）组成的复杂机器。当它学习识别猫的图片时，我们通过海量数据调整这些旋钮，直到机器能稳定输出正确答案。此时，旋钮的特定组合状态就代表了“识别猫”这项知识。

然而，当我们需要这个机器去学习“识别狗”时，如果我们用全新的数据去大幅度调整这些旋钮，那么原先为“猫”设定的旋钮位置就会被覆盖和改变。于是，机器虽然学会了认狗，却再也认不出猫了。这是因为，在典型的神经网络中，知识并非被分门别类地存储，而是分布式地交织在整个网络参数中。改变参数来适应新任务，不可避免地会扰乱旧任务所依赖的表示。

人类与AI：截然不同的学习模式

相比之下，人类大脑具有惊人的连续学习能力。我们学会开车后，这项技能几乎终身不忘；在学习法语时，我们的英语能力并不会突然消失。这得益于大脑精妙的神经机制：

• 选择性巩固与回放：睡眠时，大脑会“回放”重要记忆，加强相关神经连接。
• 模块化与功能分区：不同知识在一定程度上存储于不同脑区，降低了相互干扰。
• 弹性学习：大脑能根据新知识的重要性，灵活分配和调整神经资源。

而当前大多数AI模型，尤其是基于反向传播的神经网络，其学习过程更像是在一块固定的黑板上反复擦写，而非在一个无限扩展的书架上添加新书。

克服灾难性遗忘：AI研究的前沿探索

为了让AI更像人类一样持续学习，科学家们提出了多种策略来缓解灾难性遗忘：

1. 弹性权重巩固：核心思想是评估网络参数对旧任务的重要性，并在学习新任务时“锁定”重要参数，只允许不重要的参数大幅调整。
2. 动态架构扩展：为每个新任务分配一部分新的网络模块或参数，类似于为大脑增加新的“功能区”，从而避免对旧知识的干扰。
3. 记忆回放与复习：在学习新任务时，不时地用旧任务的数据“复习”，模拟大脑的记忆巩固过程。这可以通过保存少量旧数据或生成类似旧数据的样本来实现。

尽管这些方法取得了一定进展，但它们往往需要在稳定性（不忘旧知识）和可塑性（学习新知识）之间做出权衡，且常以增加计算成本或存储开销为代价。

通往通用人工智能的必经之路

灾难性遗忘不仅仅是一个技术难题，它更深刻地触及了智能的本质。一个真正智能的系统，应当能够在其生命周期内不断地积累、整合和运用知识，并在此过程中形成对世界的统一、连贯的理解。克服灾难性遗忘，是实现从“狭窄AI”到“通用AI”跨越的关键一步。

未来，受神经科学启发的算法、更先进的模型架构以及软硬件协同设计，或许能最终解决这一难题。当AI不再“学新忘旧”时，我们才可能迎来能够真正陪伴我们成长、适应复杂多变环境的智能伙伴。而这场对抗遗忘的战役，也正是人类探索智能奥秘的核心旅程。