回顾与展望

把十篇收成一页:RSI 的五级台阶各走到了哪里,哪些是实验室与作者的自述、哪些有独立证据,为什么还没“爆炸”,护栏画在哪,以及接下来值得盯的信号。

作者 David更新于 第 11 篇(共 11 篇)

十篇读下来,“递归自我改进”这个听起来像科幻的词,可以落成一句朴素的话:AI 已经在帮人造 AI,但离“自己造出更强的自己”还隔着好几道关。这一篇把全书收成一页。

五级台阶走到了哪

台阶改的是什么2026 年的状态篇目
1单次的答案已是日常:写完再检查、失败再重试五级台阶
2训练信号自己出题、可验证奖励已进入主流训练,模型坍塌与奖励黑客是主要风险自博弈、自我奖励
3脚手架与代码能改写自身代码的 Agent 在实验里有效,档案库式的开放探索胜过贪心;作弊与沙箱是绕不开的问题改自己的代码
4研发环节发明算法、优化内核与调度、写实验代码已经在实验室内部大量使用AlphaEvolve 一族、自动化研发
5整个研究闭环还没有:选题、判断结果、决定取舍仍由人拍板自动化研发

越往上,改动的影响越大,验收越难——这条线索从第二篇贯穿到最后一篇。

哪些有独立证据,哪些还是自述

这个方向的数字大多来自实验室与论文作者本身,读的时候要分清:

  • 有外部测量的:METR 的任务时间跨度等第三方评测,给出了“能力曲线很陡”的相对独立的证据(怎么量进展)。
  • 实验室自述的:“多少代码由模型写”“内部研发被自动化了多少”“实际加速了几倍”,以及各家系统卡里的研发能力评估,都是官方口径,外界目前难以核实。
  • 论文作者报告的:自博弈、自我奖励、自改代码、算法发现等方向的大部分成绩,只有少数被别的团队复现或当作基线重跑过。

把这些读数拼在一起,画面并不矛盾:能力在陡峭上升,但按实验室自己的估计,到 2026 年夏天实际的研发加速还不到 2 倍。

为什么还没“爆炸”

瓶颈一篇拆出了五道关:算力(实验得真跑)、验证(怎么知道改对了)、数据(发现盲区仍要靠人)、研究品味(选什么题、信哪个结果),以及收益递减。乐观派认为软件层面的研发回报足以撑起加速,怀疑派认为算力与验证会一直是硬约束——两边的论据都摆在那一篇里,本书不替读者下结论。

护栏画在哪

三家前沿实验室都在各自的安全框架里为“AI 自动化 AI 研发”单独画了线,临界点大致落在“研发被完全自动化”或“进展速度因此翻倍”这一类位置;2026 年下半年,一些实验室开始把刹车从文件落到行动上。监控内部使用、确保下一代仍然对齐,是最难的两件事(风险与治理)。

接下来值得盯的信号

  • 时间跨度的翻倍速度会不会继续加快;
  • 实验室公布的研发加速倍数会不会越过 2 倍,以及有没有独立机构能核实;
  • 第 5 级台阶的第一个像样的例子:由 AI 主导、从选题到验证完整走完的一项研发成果;
  • 安全框架里的研发阈值有没有被宣布越过,以及随之而来的措施;
  • 算力与验证这两道关,有没有出现绕开它们的新方法。

继续读什么

本页目录