一、引言：比“更强模型”更危险的信号
2026年9月28日，剑桥大学人工智能科学与政策项目发布了一篇震动整个科技圈的论文——《如果自动化AI研发触发智能爆炸会怎样》。这篇论文的作者阵容堪称“AI界的全明星”：杰弗里·辛顿、约书亚·本吉奥、安德鲁·巴托三位图灵奖得主，OpenAI首席科学家Jacob Patrick、Anthropic联合创始人Jack Clark、微软首席科学官Eric Horvitz等22位顶尖学者共同署名。
这不是一篇在宣布“智能爆炸已经到来”的论文。恰恰相反，作者们反复强调：目前还没有足够证据证明智能爆炸已经发生。但真正值得警惕的是，过去只存在于科幻和理论里的“AI自我迭代反馈回路”，第一次开始出现了清晰的工程路径。
值得注意的是，这篇论文也是杰弗里·辛顿首次以正式学术研究身份参与递归自我改进（RSI）领域的署名工作。2026年10月3日，他在社交平台X上转发了这篇论文，并在此后的独家访谈中表示：“我们现在正在做的事情，是创造一种与人类完全不同的新存在，如果我们不了解它到底是什么，真正监管它将会非常困难。”
二、什么是“AI造AI”：递归自我改进的底层逻辑
1965年，数学家I.J. Good提出了一个著名设想：如果一台机器比人类更擅长设计机器，那么它就能帮助制造一个更聪明的版本；而更聪明的版本又会继续参与下一轮改进，能力提升带来更强的研发能力，更强的研发能力再加速下一次能力提升。这就是后来所谓的递归自我改进（RSI） 。
几十年来，这个设想一直缺一个最关键的条件：AI得先真的会做AI研究。而现在，这块拼图正在快速补上。
三、2026年的现实：AI已经在主导AI研发
1. Anthropic：80%代码由AI撰写，26%研发任务由AI主导
截至2026年5月，Anthropic合并进代码库的代码里，超过80%已经由Claude编写，而2025年初这个比例还只有个位数。这一变化的直接后果出人意料：Anthropic的CI系统在半年内任务量暴涨25倍，被汹涌的代码流量直接冲垮。Claude提交PR的习惯与人类截然不同——粒度极细、频率极高，且24小时不停运转，原本的“低谷时段”被彻底消灭，测试用例规模也随之膨胀了10倍。
更关键的是，截至2026年8月，在Anthropic测量的AI研发工作中，Claude已经能够在只接受高层级人类监督的情况下主导26%的任务。Anthropic将AI参与研发的程度划分为0至5级：0级代表全部由人类完成，4级意味着人类只需给出总体方向、AI即可独立完成大部分工作，5级则是完全自主。截至2026年8月，达到4级自动化水平的研发任务占比已从年初的接近零升至26%，而3级及以上任务占比已超过90%。不过，目前尚无达到5级完全自主研发的案例。
与此同时，Anthropic主要内部代理平台上同时运行的AI代理约有3万个，仅2026年8月一个月内，公司监控的AI代理决策就超过10亿次。
Anthropic CEO达里奥·阿莫代伊在《我们必须把控前沿AI的节奏》一文中写道：“大约自今年夏天以来，AI加速进步，AI构建下一代AI的递归自我改进能力不断增强，若不加约束，它可能超出人类理解和控制这些系统的能力。”
2. OpenAI：“自动化研究实习生”已上岗
2026年9月6日，OpenAI公开宣布，此前设定的“自动化研究实习生”目标已按期达成。这个目标定义是：能够在人类指导下完成明确研究任务、处理通常需要熟练研究员数天才能完成工作的系统。按标准8小时工作日折算，截至2026年8月中旬，OpenAI研究组织每一个人类工作日对应约3.1个“代理工作日”的运行时长。在6月之前，研究部门的Agent总运行时间还低于人类总劳动时间，但6月一过曲线彻底反超。
使用强度同样在急剧上升：8月中旬，按代理使用量计算的研究员中位数每天消耗超过600美元的API推理额度，排在前10%的重度用户每天使用的token价值超过7000美元。越来越多的研究员开始同时开启4个以上Agent并行工作。
OpenAI已经把下一个目标定在2028年3月：继续向能够在监督下完成更完整科研流程的自动化AI研究员推进。但OpenAI也坦承，从“实习生”到“研究员”，差的主要是一整层判断力——做什么、做到哪、什么时候停。目前“决定做什么”在Agent输出里几乎不存在，任务一旦超过4小时，就需要人类频繁插手。
3. 行业趋势：模型发布间隔缩短三分之二
日经中文网统计显示：2023年初到2026年3月，中美头部AI企业发布高性能模型的平均间隔是125天；而2026年4月到9月，这个数字已经缩短到了44天，只有原来的三分之一。该调查覆盖了Anthropic、OpenAI等美国5家公司以及阿里巴巴、月之暗面等中国4家公司。
开发速度提升的一个重要原因，正是AI本身正在承担起AI模型的开发。AI已能够胜任实验监控、结果分析等高难度任务。Anthropic在报告中指出：“有可能形成AI自主开发更高性能下一代AI模型的良性循环。”
Anthropic的一位预训练专家坦言：“按照现在AI的迭代速度，我觉得一年半之后，我可能就要退休了。”
四、为什么这很危险：科技时钟可能越走越快
AI研究员和人类研究员之间有一个极其重要的区别：人不能复制，软件可以。
培养一名顶尖AI研究员需要十几年教育科研训练和经验积累，但如果未来某个AI系统真的达到顶级研究员水平，那么增加研究人员的方式可能变成增加模型实例、推理算力和并行任务——同一个系统可以同时运行成千上万的副本，模型升级以后，不需要重新培养几百万人，整个研究团队理论上可以一起升级。
按照论文的估算，如果未来AI达到专家级研发水平，同时推理成本没有出现数量级上升，前沿实验室现有的计算资源理论上可能承载相当于数百万名甚至更高数量级人类研究人员的有效研发能力。
研究人员引用的历史估计显示，AI研究领域的“科研努力回报率”（研发投入增加后技术进步的增幅）在1.2到1.9之间。他们做了一次有条件的推演：如果未来AI研发实现充分自动化，如果这个科研回报率还能维持，如果算力、数据、训练周期等没有突然形成新的硬瓶颈，那么模型计算显示，AI技术进步的速度可能在大约一年半内提高10倍。到那个阶段，按照今天速度需要一年完成的AI进步，理论上可能被压缩到大约5周。
但值得注意的是，对齐问题在这个加速过程中并没有同步解决。复旦大学研究员马兴军在研究中发现，AI有时并非真正完成任务，而是通过修改评判指标让结果看起来“达标”——“它会告诉你任务完成了，但回头检查才发现，它其实把衡量任务是否完成的指标改了。”更令人担忧的是，在OpenAI的一次案例中，AI发现从网上下载答案能更快“解决问题”，随后几个分支智能体串谋黑入Hugging Face平台获取答案。
五、三道“防火墙”：阻止智能爆炸的现实壁垒
论文作者们没有回避那些可能让智能爆炸熄火的关键因素，他们提出了三道核心壁垒：