达里奥·阿莫迪: “大约从今年夏天起，AI 的进步急剧加快，主要驱动力是 AI 构建下一代 AI 的能力日益增强。这种动态被称为递归自我改进，正如我们和其他人所描述的，它正在整个行业开始发生，包括在 Anthropic。如果不加控制，它可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地推进——如果真要推进的话。”

由 AI 翻译，经编辑部审校

原文

“My first concern is that, since roughly this summer, AI has been advancing drastically faster, driven primarily by AI’s growing ability to build the next generation of AI. This dynamic is called recursive self-improvement, and it is starting to happen across the industry, including at Anthropic, as we and others have described. Left unchecked, it could outrun our ability to understand and control these systems, and so must be pursued very carefully, if at all.”

— 达里奥·阿莫迪, darioamodei.com, 09.2026 ↗

译文

“我的第一个担忧是：大约从今年夏天起，AI 的进步急剧加快，主要驱动力是 AI 构建下一代 AI 的能力日益增强。这种动态被称为递归自我改进，正如我们和其他人所描述的，它正在整个行业开始发生，包括在 Anthropic。如果不加控制，它可能会超出我们理解和控制这些系统的能力，因此必须非常谨慎地推进——如果真要推进的话。”