本文主要参考：Anthropic - When AI builds itself
RSI（recursive self-improvement，递归自我改进）：人工智能系统自主完成设计、测试、训练下一代人工智能的完整流程，形成智能的螺旋式上升，人类不再扮演关键角色。
人工智能模型的进化速度正在加速
- 2026 年，AI 能够可靠完成的任务数大约每四个月翻倍，而之前的趋势是每七个月翻倍
- 2024 年 3 月，Claude Opus 3 能完成约需人类四分钟的编程任务。2025 年，Claude Sonnet 3.7 任务时长约为 90 分钟。2026 年，Claude Opus 4.6 任务时长约 12 小时；2027 年，数周？
- SWE-bench 真实软件工程基准测试，其模型得分在两年内从个位数到饱和（基本攻克）
- CORE-Bench 论文研究复现测试，模型复现成功率 15 个月内从 20% 到饱和（基本攻克）
- 截至2026年5月，Anthropic 代码库的代码中，超过 80% 由 Claude 编写：
人类有了想法，模型能够比以前快一个数量级地实现、测试和评估这些想法
Claude 在不同难度任务中随时间的成功率变化趋势：
2025 年 11 月的最佳模型（Opus 4.5）有 51%的概率胜过人类的判断
当前人类的比较优势，仍在于看到更大的图景，思考超越眼前任务的局限；具体来说，人类的比较优势领域在于研究的品味和判断，包括选择哪些问题重要，哪些结果值得信任，以及何时方法是死胡同
人工智能的 RSI 雏形
- 人工智能很少会因“灵光一现”而获得进步，其大多数的发展都是渐进式的
- 发现问题，修复问题，然后重试，这是目前 AI 所擅长的工作流程
- 人工智能已经让 AI 的发展速度远快于有效 AI 工具出现之前
- “研究品味”可能是人工智能在逐渐掌握的能力，就像之前 AI 逐渐理解笑话和笑点一样
人工智能的 RSI 展望
- AI 的进化速度正从高速指数增长转化为缓和增长，需要新的想法来突破瓶颈
- 限制人工智能发展的在于供应链（能源/芯片制造/计算/带宽），而非模型本身
- 人工智能的开发将实现高度自动化，但人类仍负责设定研究方向并评判结果
- 伴随技术进步，AI 可能会具备人类的变革性创造力，从而实现自我设计和完善
- 在 RSI 成熟的时刻，AI 的发展速度将完全取决于系统算力可用性（推理效率）
- 人类的功能性/必要性将大幅降低，只需要负责 AI 系统运营的监督和验证
以人类劳动力为核心的经济驱动将被彻底改变，无法预测未来社会组织和市场运作方式
人类的选择与应对
- 世界选择放缓或暂停前沿 AI 的发展，有助于社会结构和对齐研究跟上技术进步
- 实质性的放缓或暂停，需要依赖多个资源充分的实验室和国家的同意（军备竞赛难题）
- 人类已经为其他复杂技术（核力量）建立了验证机制，但是此体制的建立耗费数十年时间
- 建立全球协调机制，避免技术放缓而导致的滥用风险，避免降低所有人类的安全感
- 未来需要更多领域人士和组织的参与，探讨 RSI、AI 对齐和协调机制等相关问题