最近读到了来自 Tianle Cai (@tianle_cai) 关于 Continual Learning (持续学习) 的一篇非常有启发性的长文，解答了目前业界对这一概念常见的误解。

原文：Dario Says Continual Learning Is Solved. Is It?

核心观点提取

1. 持续学习不是一个“点”，而是一个“箭头”

传统机器学习通常将 Continual Learning (持续学习) 等同于对抗“灾难性遗忘 (catastrophic forgetting)”，这导致了概念的模糊。更好的理解方式是：持续学习是一组方向一致的努力（一个“箭头”），其终极目标是不断拓展 LLM 能够可靠处理的任务视界 (Task Horizon)。

2. 什么是“任务视界 (Task Horizon)”？

借用 METR 评估 AI 的视角，我们可以把模型能独立、可靠完成任务的时间跨度作为衡量 AI 进步的“北极星指标”，这就如同硬件领域的摩尔定律。如果模型在执行复杂任务时无法同步学习新东西，一旦遇到长周期的任务就会陷入困境。

3. 技术演进即是推展视界

现有的诸多技术如 Pretraining, SFT, RL 以及 Agentic Context Management (智能体上下文管理)，都可以被看作是不断推展这个视界的工具：

• 早期： 只有预训练时，SFT 就是当时的“持续学习”——它让基础模型学会在极短上下文中“学习”并回答简单问题。
• 现在： 到了 RL 时代，“智能体上下文管理”成为了新一代的持续学习——它允许模型做笔记、压缩信息，并将记忆拓展到上下文窗口之外。

正如克莱顿·克里斯坦森在《创新者的窘境》中所述，新的技术曲线一开始可能会表现不如旧技术，但最终会全面超越，就像我们在 Anthropic 引领的 Agentic Coding 热潮中看到的那样。

4. 持续学习真的“被解决”了吗？

Anthropic CEO Dario Amodei 曾认为持续学习“已被解决”。在某种程度上，他是对的——强大的上下文管理配合工程优化，的确能将任务视界延长到数周乃至数月，甚至达到了人类的工作时长级别。 但这并不意味着革命已经结束。就像黎曼猜想尚未被证明一样，仍有许多极长视界的复杂任务是目前模型无法企及的。“人类级别的持续学习”或许初见曙光，但要让模型真正实现自我进化，革命尚未成功，同志仍需努力。

---

编者按：将复杂的模型能力演进抽象为“Task Horizon”的延长，极大地清晰了我们在面对“终身学习”等前沿 AI 概念时的认知框架。