AI可以复制，但GPU不能凭空复制。上百个agent可以同时提出实验，但他们依然要争抢训练集群、电力和芯片。一次前沿模型训练如果物理上就需要几个月，100万个AI研究员也不能把它压缩成5分钟。
2. 数据壁垒：高质量数据不会自动增长
高质量自然数据不会因为AI研究员数量增加就自动增加100万倍，合成数据可验证任务环境交互究竟能不能长期提供足够好的训练信号，现在仍然没有答案。
3. 科研难度壁垒：越往前越难突破
最容易找到的算法改进很可能最先被找光，越往前推进，每一点能力提升可能都需要更多实验、更大算力和更复杂的判断。如果研究难度上升的速度最终超过AI增加研发能力的速度，所谓的“智能爆炸”可能根本爆不起来。
OpenAI在其报告中同样承认了这一瓶颈：自动化推进得越深，最难自动化的那部分任务就会占掉研究员越来越多的精力，成为下一道卡点。“决定做什么”在Agent输出里几乎不存在，任务超过4小时就需要人频繁插手。
六、启示：智能爆炸已经从哲学假设变成工程问题
这篇论文真正重要的结论，并不是“超级智能马上来了”，而是另一句话：智能爆炸已经从纯粹的哲学假设，变成了一个可以开始测量的工程问题。
我们已经可以统计一家公司有多少代码由AI写，可以统计多少AI研发任务由agent主导，可以统计一个人类研究员背后同时运行着多少agent，甚至开始尝试计算当研发AI这件事本身被AI自动化以后，技术进步的速度到底会怎样变化。
过去几年，我们一直盯着模型有多少参数、Benchmark提高几分、上下文又扩大多少，但下一轮真正重要的scaling可能根本不发生在模型参数里，而是发生在研究AI这件事情本身。一旦研究能力可以像软件一样复制，一旦更强的AI又能继续帮助制造更强的AI，真正发生变化的就不只是AI变聪明的速度，而是整个科技时代的时钟可能开始越走越快。
七、应对：人类必须提前做好三件事
论文的作者因此提出了三个关键方向：
1. 透明化
让外界能够看到前沿实验室究竟自动化了多少研发，公众、监管者和独立研究者需要有一个窗口，能知道事情进展到了哪一步。Anthropic已表示未来将持续公开相关指标，并引入外部独立第三方评估，由其评估AI模型开发过程中AI所发挥的作用以及人类能否进行适当监督。
2. 建立刹车机制
提前建立独立评估、隔离环境和必要时暂停高风险研发任务的能力。2026年9月16日，欧盟委员会主席冯德莱恩在欧洲议会发表盟情咨文时，直接呼吁放缓“自递归”AI模型的发展，并透露“最先进公司的CEO们私下告诉我们，是时候放慢自递归模型了”。她宣布欧盟将与加拿大、英国在模型评估、先进系统验证、早期预警机制和AI安全协议四个领域展开联合工作。
不过，监管面临一个结构性难题：即便模型从未公开发布，只要进入欧盟市场就可能受《AI法案》约束，但在RSI场景下，模型可能尚未“投放市场”就已迭代数代，现有监管框架的边界正在被技术现实挑战。
3. 准备应急机制
为网络安全、生物安全、就业冲击以及极端情况下的失控风险准备应急机制。
因为如果这套反馈循环真的有一天闭合，受到冲击的不会只是AI行业本身，最稀缺的资源可能已经不再是模型、芯片，甚至不是钱，而是人类留给自己理解变化、制定规则和做出选择的时间。
八、结语：我们还有时间，但时间不多了
智能爆炸有没有开始？今天的答案仍然是“没有”，没有证据证明它已经发生。但真正值得警惕的是，人类已经第一次开始认真研究，如果那一天到来，我们究竟还能提前看见它多久。
这篇论文的作者之一、图灵奖得主杰弗里·辛顿在接受采访时说：“我们不是在说‘世界末日要来了’，我们是在说‘我们需要开始认真对待这个问题了’。”
2026年，AI的发展已经进入了一个全新的阶段。我们不再只是看着AI“变聪明”，而是开始看着AI“学会如何让自己变聪明”。这是一个充满机遇的时代，也是一个充满风险的时代。
我们还有时间，但时间不多了。