Дарио Амодеи: «Примерно с этого лета ИИ развивается резко быстрее — прежде всего потому, что сам всё лучше строит следующее поколение ИИ. Это называют рекурсивным самоулучшением, и оно начинается во всей отрасли, в том числе в Anthropic. Если его не сдерживать, оно может обогнать нашу способность понимать и контролировать эти системы, поэтому заниматься им нужно очень осторожно — если вообще заниматься»

оригинал

“My first concern is that, since roughly this summer, AI has been advancing drastically faster, driven primarily by AI’s growing ability to build the next generation of AI. This dynamic is called recursive self-improvement, and it is starting to happen across the industry, including at Anthropic, as we and others have described. Left unchecked, it could outrun our ability to understand and control these systems, and so must be pursued very carefully, if at all.”

— Дарио Амодеи, darioamodei.com, 09.2026 ↗

перевод

«Первое, что меня беспокоит: примерно с этого лета ИИ развивается резко быстрее — прежде всего потому, что сам всё лучше строит следующее поколение ИИ. Это называют рекурсивным самоулучшением, и, как писали мы и другие, оно начинается во всей отрасли, в том числе в Anthropic. Если его не сдерживать, оно может обогнать нашу способность понимать и контролировать эти системы, поэтому заниматься им нужно очень осторожно — если вообще заниматься.»