当 AI 开始构建自己

这段视频对应 Anthropic Institute 的文章《当人工智能自我构建》。Bilibili 当前在线字幕明显错位：一条字幕混入背景音和无关片段，另一条只有广告式重复文本，因此本页不引用错误字幕，而是按标题对应源材料整理。

核心判断

AI 已经在加速 AI 研发，但还没有完全进入递归自我改进。执行层面的代码编写、实验运行、批量修复正在被自动化；真正稀缺的环节，仍是判断哪些问题值得做、哪些结果可信，以及如何保持人类控制。

口播要点

• Anthropic 把 AI 研发阶段分成从人工编码、聊天机器人辅助、编码代理，到自主代理和未来闭环自我改进的演进。
• 公开基准显示，模型可独立完成的任务时长在快速变长，软件工程和研究复现实验的能力也在逼近饱和。
• Anthropic 内部数据显示，Claude 已经参与大量代码生产，工程师的角色正在从亲自编写转向指挥、审查和判断。
• 代码和实验执行速度提升，会把瓶颈推向研究品味：选择方向、定义问题、识别死胡同。
• 如果未来 AI 能设计和训练自己的继任者，安全、监控、对齐和治理机制会比模型能力本身更关键。
• 即使完全递归自我改进没有发生，AI 对研发组织的复合加速也已经足够改变竞争格局。

可以马上做的一件事

把自己的 AI 工作流拆成两层：一层是可交给模型执行的重复性步骤，一层是必须由自己判断的方向性问题。不要把判断力也过早外包。