智能爆炸：从 AGI 到 ASI 的四条路径

Google DeepMind 在论文《From AGI to ASI》中讨论了一个过去经常被跳过的问题：如果有一天人工智能真的达到人类水平，故事会就此结束吗？

未必。

论文原文（arXiv）

AGI 之所以重要，只是因为“人类水平”对我们而言具有特殊意义。从技术上看，它并不是一道天然存在的物理边界。一个系统既然可以从低于人类水平逐渐接近人类，就没有明显理由说明它一旦达到这一位置便会停止进步。

DeepMind 因此把讨论继续向前推进了一步：如果 AGI 出现，哪些机制可能继续推动人工智能走向 ASI，也就是在广泛认知任务上超过大型人类专家组织的人工超级智能？

论文给出了四条主要路径：规模扩展、算法范式跃迁、递归式自我改进和多智能体集体智能。

真正值得关注的并不是其中某一条路线，而是这四种机制可能同时发生，并彼此增强。所谓“智能爆炸”，也许并不是某个模型突然获得难以理解的能力，而是人工智能的发展过程逐渐出现越来越强的正反馈。

AGI 为什么未必是终点？

讨论从 AGI（通用人工智能） 到 ASI（超级人工智能），首先要澄清一个常见误区：

ASI 并不一定意味着出现一个“比所有人都聪明的超级大脑”。

DeepMind 对 ASI 的描述更接近一种系统能力：

人工智能在广泛任务上能够超过大型人类组织，而不仅仅是超过单个个体。

这个区别很重要。

假设未来某个 AGI 的能力始终只相当于一名优秀工程师，它没有继续获得质的突破。如果这种数字智能可以低成本复制，同时运行十万甚至一百万个实例，并共享经验、工具和工作结果，那么系统整体的能力依然可能远远超过任何现实中的研发机构。

生物智能与数字智能在这里存在一些结构性差异。

人类个体无法复制自身的知识状态，一个专家培养可能需要十几年；数字模型则可以瞬间复制。人类专家之间只能通过语言、文档和会议交换信息，而数字智能可以共享代码、模型状态、数据库和完整工作轨迹。人类每天只有有限的工作时间，而数字智能理论上可以持续运行，也可以通过更多硬件扩大并行度。

因此，从 AGI 到 ASI 并不一定需要一个模型变得“神一样聪明”。

它也可能来自三件更普通的事情：单体能力继续提高、智能实例数量迅速增加，以及这些实例之间形成比人类组织更高效的协作结构。

DeepMind 提出的四条路径，本质上就是围绕这三个变量展开。

第一条路径：Scaling

继续扩大已有系统

第一条路线是最熟悉的 Scaling。

过去十几年，人工智能能力提升很大程度上来自规模扩展：更多训练算力、更大数据集、更大模型，以及更长的推理时间。

但论文中的 Scaling 比简单的“模型参数继续增加”更宽。

它至少包含三个层面。

第一是训练规模扩展。通过增加训练计算和数据，使基础模型本身获得更强能力。

第二是推理规模扩展。模型训练结束以后，依然可以通过增加测试时计算提升结果质量。例如允许模型进行更多推理步骤、搜索多个候选答案、调用工具、运行验证器，或者让多个模型实例同时探索不同解法。

第三是实例数量扩展。即使单个模型能力保持不变，系统仍然可以通过运行更多数字智能获得整体能力增长。

DeepMind 用“有效计算量”来描述这种综合效应。硬件效率提升意味着相同成本可以买到更多计算；算力投入增加意味着训练和推理本身可以继续扩大；算法效率提高，则意味着同样的计算资源能够产生更强模型。

真正的问题并不是算力还能不能增加，而是：

每增加一单位有效计算，到底还能换来多少能力提升？

如果能力与计算之间依旧存在稳定的 Scaling Law，那么单纯依靠规模扩展，AGI 之后仍然可能继续获得显著进步。

但这条路线存在几个现实边界。

首先是数据。如果高质量训练数据增长速度慢于模型规模，就需要越来越多依赖合成数据、交互数据和自生成任务。

其次是能源和硬件。前沿模型训练已经需要大型集群，继续按过去的速度扩大计算投入，会越来越受到芯片产能、电力和数据中心建设周期限制。

再往后是边际收益。即使算力继续增长，如果模型能力提升越来越慢，那么单纯 Scaling 最终会变得经济上不划算。

因此，DeepMind 并没有把 Scaling 看成一条可以无限延伸的道路，而更像当前最确定、但最终可能逐渐遇到摩擦的增长机制。

不过这里还有一个经常被忽略的变量：实例规模。

假设一个 AGI 已经可以独立完成大部分软件工程、数据分析和科学研究任务，那么即使模型能力几年内没有明显变化，把可用实例从一万个增加到一百万个，本身也可能大幅改变研发能力。

这意味着 Scaling 在 AGI 之后可能从“扩大模型”，逐渐转变为“扩大数字劳动力”。

第二条路径：算法范式跃迁

不是更大的模型，而是更好的方法

Scaling 假设当前技术范式还能继续工作。

第二条路线则考虑另一种情况：现有方法最终到达瓶颈，但新的算法突破重新打开增长空间。

DeepMind 将这种机制称为 Algorithmic Paradigm Shift，也就是算法范式跃迁。

人工智能历史中已经发生过多次类似变化。

早期 AI 主要依靠手工编写规则，之后统计机器学习逐渐占据主流；深度学习减少了大量人工特征工程；Transformer 又改变了序列建模方法；大规模预训练进一步把大量任务统一到通用模型中。

这类突破的特点是，它不是简单把已有系统做大，而是改变“计算如何转化成能力”的效率。

例如，如果一种新架构能够用十分之一的数据和算力达到今天 Transformer 的效果，那么它相当于凭空增加了一个数量级的有效计算。

这也是为什么算法效率在长期技术进步中非常重要。

从这个角度看，ASI 未必需要无限扩大的数据中心。另一种可能是未来出现新的学习机制，让模型能够更高效地从经验中学习、更稳定地持续更新、更好地构建世界模型，或者减少对大规模离线预训练的依赖。

目前一些研究方向已经可以看成潜在的范式变化来源。

一个是持续学习。今天的大模型通常经历一次大规模训练，部署之后虽然可以获得上下文和外部记忆，但核心参数不会持续从现实世界经验中更新。如果模型能够像人类一样长期学习，而不是每隔几个月重新训练一代模型，能力增长方式会发生明显变化。

另一个是世界模型。如果 AI 不只是拟合语言分布，而是能够建立更加完整的环境模型，并在内部进行模拟、规划和反事实推演，其能力上限可能不同于今天的语言模型。

还有一个方向是学习算法本身的变化。反向传播、梯度下降和当前优化器并不一定是机器智能的最终学习机制。新的训练算法可能带来更高样本效率、更强在线学习能力，或者允许模型更自然地改变自身结构。

问题在于，真正的范式跃迁具有高度不可预测性。

Scaling 可以从芯片数量、训练 FLOPs 和投资规模中做一定外推，但一次新的 Transformer 式突破，很难从历史趋势准确推算出来。

因此，范式跃迁是四条路线中最难建立时间表的一条，却又可能是改变整个增长曲线最剧烈的一条。

第三条路径：递归式自我改进

当 AI 开始参与制造下一代 AI

第三条路线是论文中最值得关注的一部分：Recursive Self-Improvement，递归式自我改进。

过去谈 RSI，经常会出现一种非常具象的想象：某个 AI 获得自己的源代码，修改模型结构，使自己变强，然后再次修改自己，最终形成能力爆炸。

DeepMind 的理解要宽得多。

RSI 不要求某个模型直接编辑自己的权重。

真正重要的是这个闭环：

AI 能力提升
↓
AI 研发能力提升
↓
下一代 AI 更快、更强
↓
下一代 AI 又进一步提高研发效率。

只要这条反馈链建立起来，递归式改进就可能发生。

这也是为什么当下真正值得观察的不是“模型有没有修改自己”，而是 AI 已经进入 AI 研发流程的哪些部分。

今天的 AI 已经可以写训练代码、生成测试、优化 Kernel、分析实验结果、设计部分算法，并协助模型评测。

如果这些能力继续发展，AI R&D 可能逐渐从辅助工具变成高度自动化流水线：

研究系统提出候选想法，自动修改代码，提交训练任务，运行 benchmark，分析结果，再决定下一轮实验。

这里最关键的一步并不是执行，而是闭环。

如果人类仍然必须决定所有研究方向、筛选重要结果、发现实验设计错误并决定下一步，那么它依然主要是一套研究自动化工具。

只有当 AI 自己开始承担越来越多的“选择下一步改什么”的工作，递归反馈才真正变强。

论文进一步指出，RSI 还不只发生在模型算法层面。

它可以出现在硬件。

AI 设计更高效的芯片和计算系统，新硬件使下一代 AI 训练更快，而更强 AI 又能够进一步优化硬件。

它也可以出现在训练数据。

当前模型通过搜索、推理或工具调用产生比自身直接输出更高质量的答案，然后把这些结果重新作为训练数据，训练出更强的新模型。新模型随后又可以生成质量更高的数据。

AlphaZero 式的“搜索—生成更优行为—训练新策略—再次搜索”，就是一种非常典型的递归结构。

在大语言模型时代，这种机制可能表现为：

模型生成新的数学题和证明，生成代码任务和测试样例，构造更困难的推理数据，甚至生成用于训练下一代 Agent 的完整工作轨迹。

RSI 因而更像一个AI 生产体系的反馈机制，而不是某个模型的一项特殊能力。

真正需要测量的指标也应该随之改变。

不是简单统计“多少代码由 AI 编写”，而应该看：

这一代 AI 参与研发之后，下一代 AI 在 AI 研发任务上的能力是否提升；如果提升，提升幅度会不会随着代际不断增加。

如果上一代模型能把研发效率提高 20%，下一代提高 30%，再下一代提高 50%，那么反馈正在加强。

如果收益反而从 20% 降到 10%、5%、2%，说明递归存在，但很可能快速进入平台期。

所以“是否存在 RSI”和“是否会产生智能爆炸”其实是两个不同问题。

前者只要求反馈存在。

后者要求反馈足够强，而且能够持续抵消现实世界中的各种瓶颈。

第四条路径：多智能体

ASI 可能首先是一种组织能力

第四条路径是 Multi-Agent Intelligence。

它的重要性在于，ASI 不一定首先表现为一个单体模型能力发生巨大飞跃，也可能表现为大量 AGI 组成了比任何人类组织都更高效的集体。

现实中的复杂技术成果本来就不是个体智能的产物。

制造先进芯片需要架构设计、EDA、材料、工艺、制造设备、供应链等多个系统协作；大型科学项目则需要研究团队、实验设施、工程组织和长期知识积累。

换句话说，人类文明的能力上限，很大程度上来自组织智能。

数字智能同样可能走向这条路线。

在最简单的情况下，多智能体只是任务分解：

一个 Agent 负责规划，一个负责检索，一个负责写代码，一个负责测试。

但真正通向 ASI 的多智能体系统需要解决更深的问题。

首先是专业化。

如果不同 Agent 长期承担不同任务，它们可能逐渐形成专门能力，而不是所有 Agent 都使用同一个通用模型做所有事情。

其次是任务分配和资源配置。

一百万个 Agent 并不天然等于一百万倍生产力。如果大量智能体做重复工作、彼此冲突或者沟通成本过高，系统效率可能迅速下降。

因此真正重要的是如何把任务拆解成合适粒度，并动态决定哪些 Agent 应该做什么、分配多少计算资源、何时终止任务。

第三是信息整合。

一个大型研究组织最大的困难之一，就是没有任何个体能够掌握所有局部信息。多智能体 AI 系统同样面临这个问题。

如果每个 Agent 都产生大量结果，系统需要有机制判断哪些结果值得继续探索，并把局部发现整合成全局知识。

第四是治理和协调机制。

不同 Agent 可以采用层级结构，也可以使用市场式竞价、竞争淘汰或者去中心化协作。不同组织结构可能直接决定系统整体能力。

这其实引出了一个很有意思的问题：

未来的 AI 研究，不一定只是在设计更好的“模型架构”，也可能是在设计更好的“AI 社会架构”。

谁来决定研究方向？

哪些 Agent 可以创建新 Agent？

如何分配算力？

错误信息如何被淘汰？

系统如何避免大量 Agent 在同一条错误路径上集体浪费资源？

这些问题听起来像组织管理，却可能成为未来超级智能系统的核心技术问题。

而且多智能体与 RSI 很容易产生进一步耦合。

如果 AI 不只是完成研究任务，还可以自动实验不同组织结构，然后保留效率更高的协作方式，那么连“研发组织本身”也进入了自我改进循环。

此时 RSI 改进的就不只是模型，而是整个数字研究机构。

四条路径之间的耦合

论文最值得重视的一点，是这四条路径并不会孤立发生。

例如 Scaling 带来更多计算资源，使一个系统能够运行更多 AI 研究 Agent。

更多 Agent 又能并行进行算法探索，从而提高找到新架构的概率。

算法效率提升之后，同样硬件上可以运行更多智能体。

这些更强、更便宜的智能体又参与下一代模型和硬件研发，于是递归式改进进一步增强。

换句话说：

Scaling 提供资源，范式跃迁提高资源利用效率，多智能体扩大研究规模，RSI 则把前三者连接成反馈闭环。

从这个意义上看，RSI 可能并不是四条路径中和其他三条并列的一条普通路径。

它更像一种“连接机制”。

一旦 AI 能够研究 Scaling、改进算法、优化 Agent 组织形式，那么前三条路径本身都可能进入递归。

这也是“智能爆炸”真正具有技术意义的地方。

它不是某一个指标突然无限增长，而是 AI 开始参与决定自身能力增长函数。

递归不等于无限加速

论文同时非常强调各种阻力。

最直接的是资源约束。

芯片制造、电力、数据中心建设都有物理周期。即使 AI 一夜之间把训练算法效率提高十倍，新的硬件基础设施也不可能瞬间出现。

第二个是数据约束。

人工生成的数据终究有限。合成数据可以扩展规模，但如果模型持续从自己产生的数据中学习，就必须解决信息增量不足、错误累积和分布收缩问题。

第三个是研究本身可能越来越难。

很多领域存在“低垂果实效应”：最容易的突破会被优先发现，后续进展需要越来越多实验和计算。

如果提高 1% 模型能力所需研究成本增长速度快于 AI 研究效率增长，那么 RSI 最终仍然会减速。

第四个限制更深：现实世界反馈速度。

软件、数学、编译器这些领域可以在几秒或者几分钟内完成一轮“生成—测试—评价”。

因此它们天然适合快速递归。

但新材料、药物、芯片制造则不同。

AI 可以在一天内提出一百万种药物分子，但动物实验和临床试验依然需要现实时间。

所以未来很可能出现非常不均衡的 RSI：

纯数字领域进展极快，而依赖真实物理实验的领域明显更慢。

一道未知的墙：AI 能不能产生新的抽象？

论文中一个非常有意思的概念是 Abstraction Barrier，也就是“抽象壁垒”。

今天的大模型主要学习的是人类已经加工过的知识。

它们见过数学符号、自然语言、科学论文、代码，也继承了人类过去几千年形成的一整套概念体系。

但科学史上最重要的突破，有时不是在现有知识之间建立更多关联，而是发明新的抽象。

“基因”“电磁场”“时空”“信息熵”都不是从已有文本中简单拼接出来的概念。它们来自长期观察现实世界之后，对自然现象重新建立表达方式。

这就提出一个尚未解决的问题：

如果一个模型主要在由人类概念构成的数据世界里学习，它是否能够真正跳出这套概念体系，自主创造一种人类从未拥有过的新抽象？

如果不能，那么 AI 可能极其擅长搜索人类已经定义好的知识空间，却在真正开辟新知识空间时遇到上限。

如果能够，那么 ASI 与人类之间的差距可能不再只是“知道得更多、算得更快”，而是机器开始形成我们从未拥有过的描述世界的方法。

这可能才是 ASI 最难预测的部分。

从 AGI 到 ASI，真正需要观察的是增长函数有没有改变

读完整篇《From AGI to ASI》，我认为最重要的并不是 DeepMind 提出了四个名词，而是它把一个过去高度哲学化的问题转化成了一个可以逐渐被测量的问题。

未来几年真正值得跟踪的，可能不是某个 Benchmark 是否宣布“达到 AGI”，而是几条更具体的曲线：

• 模型能力随有效计算增长的速度是否在下降
• AI 在真实 AI 研发中承担的工作比例是否持续提高
• 新一代 AI 是否比上一代更擅长进行 AI 研究
• 多智能体系统增加实例后，整体能力到底如何 Scaling

现实世界的资源和实验反馈是否开始成为主要瓶颈。

这些指标决定的不是“AI 聪不聪明”，而是：

人工智能的发展速度本身，是否开始越来越多地由人工智能决定。

如果答案仍然是否定的，那么再强的 AI 也只是人类技术体系中的一个工具。

如果答案逐渐变成肯定的，那么从 AGI 到 ASI 的真正分界线，可能不在某个能力 Benchmark 上。

它更可能出现在一个更不起眼的时刻：

人工智能第一次稳定地提高了“创造下一代人工智能”的效率，而下一代又把这件事做得更好。

从那时开始，我们面对的就不再只是一项不断进步的技术。

而是一种开始参与决定自身进步速度的技术。