回顾与展望
把十篇收成一页:RSI 的五级台阶各走到了哪里,哪些是实验室与作者的自述、哪些有独立证据,为什么还没“爆炸”,护栏画在哪,以及接下来值得盯的信号。
作者 David更新于 第 11 篇(共 11 篇)
十篇读下来,“递归自我改进”这个听起来像科幻的词,可以落成一句朴素的话:AI 已经在帮人造 AI,但离“自己造出更强的自己”还隔着好几道关。这一篇把全书收成一页。
五级台阶走到了哪
| 台阶 | 改的是什么 | 2026 年的状态 | 篇目 |
|---|---|---|---|
| 1 | 单次的答案 | 已是日常:写完再检查、失败再重试 | 五级台阶 |
| 2 | 训练信号 | 自己出题、可验证奖励已进入主流训练,模型坍塌与奖励黑客是主要风险 | 自博弈、自我奖励 |
| 3 | 脚手架与代码 | 能改写自身代码的 Agent 在实验里有效,档案库式的开放探索胜过贪心;作弊与沙箱是绕不开的问题 | 改自己的代码 |
| 4 | 研发环节 | 发明算法、优化内核与调度、写实验代码已经在实验室内部大量使用 | AlphaEvolve 一族、自动化研发 |
| 5 | 整个研究闭环 | 还没有:选题、判断结果、决定取舍仍由人拍板 | 自动化研发 |
越往上,改动的影响越大,验收越难——这条线索从第二篇贯穿到最后一篇。
哪些有独立证据,哪些还是自述
这个方向的数字大多来自实验室与论文作者本身,读的时候要分清:
- 有外部测量的:METR 的任务时间跨度等第三方评测,给出了“能力曲线很陡”的相对独立的证据(怎么量进展)。
- 实验室自述的:“多少代码由模型写”“内部研发被自动化了多少”“实际加速了几倍”,以及各家系统卡里的研发能力评估,都是官方口径,外界目前难以核实。
- 论文作者报告的:自博弈、自我奖励、自改代码、算法发现等方向的大部分成绩,只有少数被别的团队复现或当作基线重跑过。
把这些读数拼在一起,画面并不矛盾:能力在陡峭上升,但按实验室自己的估计,到 2026 年夏天实际的研发加速还不到 2 倍。
为什么还没“爆炸”
瓶颈一篇拆出了五道关:算力(实验得真跑)、验证(怎么知道改对了)、数据(发现盲区仍要靠人)、研究品味(选什么题、信哪个结果),以及收益递减。乐观派认为软件层面的研发回报足以撑起加速,怀疑派认为算力与验证会一直是硬约束——两边的论据都摆在那一篇里,本书不替读者下结论。
护栏画在哪
三家前沿实验室都在各自的安全框架里为“AI 自动化 AI 研发”单独画了线,临界点大致落在“研发被完全自动化”或“进展速度因此翻倍”这一类位置;2026 年下半年,一些实验室开始把刹车从文件落到行动上。监控内部使用、确保下一代仍然对齐,是最难的两件事(风险与治理)。
接下来值得盯的信号
- 时间跨度的翻倍速度会不会继续加快;
- 实验室公布的研发加速倍数会不会越过 2 倍,以及有没有独立机构能核实;
- 第 5 级台阶的第一个像样的例子:由 AI 主导、从选题到验证完整走完的一项研发成果;
- 安全框架里的研发阈值有没有被宣布越过,以及随之而来的措施;
- 算力与验证这两道关,有没有出现绕开它们的新方法。
继续读什么
- 想补大模型的底子:《AI 大模型解构》。
- 想看 Agent 是怎么搭起来的:《从 LLM 到 Coding Agent》。
- 想看已经“参与造自己”的编码 Agent 在用户手里长什么样:《Claude Code 中文手册》、《Codex 中文手册》。
- 想看同期另一条前沿方向:《Jev 原理与应用》。