Dario Amodei: «Más o menos desde este verano, la IA avanza de forma drásticamente más rápida, impulsada sobre todo por la creciente capacidad de la IA para construir la siguiente generación de IA. Esta dinámica se llama automejora recursiva, y está empezando a producirse en toda la industria, también en Anthropic, como hemos descrito nosotros y otros. Si no se controla, podría superar nuestra capacidad de entender y controlar estos sistemas, por lo que debe abordarse con muchísimo cuidado, si es que se aborda.»

traducido por IA, revisado por la redacción

original

“My first concern is that, since roughly this summer, AI has been advancing drastically faster, driven primarily by AI’s growing ability to build the next generation of AI. This dynamic is called recursive self-improvement, and it is starting to happen across the industry, including at Anthropic, as we and others have described. Left unchecked, it could outrun our ability to understand and control these systems, and so must be pursued very carefully, if at all.”

— Dario Amodei, darioamodei.com, 09.2026 ↗

traducción

«Mi primera preocupación es que, más o menos desde este verano, la IA avanza de forma drásticamente más rápida, impulsada sobre todo por la creciente capacidad de la IA para construir la siguiente generación de IA. Esta dinámica se llama automejora recursiva, y está empezando a producirse en toda la industria, también en Anthropic, como hemos descrito nosotros y otros. Si no se controla, podría superar nuestra capacidad de entender y controlar estos sistemas, por lo que debe abordarse con muchísimo cuidado, si es que se aborda.»