Дарио Амодеи: «Я считаю, что если составить список того, что Anthropic за прошлый год сделала ради безопасности в ущерб себе коммерчески, он намного перевесит ваш список. … Модели класса Mythos впервые появились у нас в феврале, но в общий доступ мы выпустили их только в июне, когда появились более сильные защиты от киберзлоупотреблений. … Экономически было бы гораздо разумнее просто выпустить модель для всех. Скорее всего, мы пожертвовали значительной частью преимущества в несколько месяцев.»
оригинал
“I believe that if we take a list of things that Anthropic did in the past year that were pro-safety and commercially costly to us, they far outweigh the list you’ve made, while at the same time I also disagree with some of the items on your list. Here are some things Anthropic has done, in the same period you’ve cited (the last year), which were very costly to us commercially while having strong safety benefits:
[...]
3. Similarly, we first had Mythos-class models in February but didn’t make them generally available until June (when we had stronger cyber safeguards in place). We only offered them to a limited set of partners in order to focus on cyberdefense. It would have been much more economically rational to simply release the model to everyone. We likely sacrificed a significant chunk of a several-month model lead. But because of this, many companies secured their cyber infrastructure before the deluge of widely available cyber-capable models. Of course there are ways it could have gone better or been run better, but this was what we were aiming to do.”— Дарио Амодеи, X, 21.10.2026 ↗
перевод
«Я считаю, что если взять список того, что Anthropic за прошлый год сделала ради безопасности и что дорого обошлось нам коммерчески, он намного перевесит составленный вами список, — при этом с некоторыми пунктами вашего списка я и не согласен. Вот кое-что из того, что Anthropic сделала за тот же период, о котором говорите вы (последний год), — это очень дорого обошлось нам коммерчески, но дало большой выигрыш для безопасности: […] 3. Точно так же модели класса Mythos впервые появились у нас в феврале, но в общий доступ мы выпустили их только в июне (когда у нас появились более сильные защиты от киберзлоупотреблений). Мы предлагали их лишь ограниченному кругу партнёров, чтобы сосредоточиться на киберзащите. Экономически было бы гораздо разумнее просто выпустить модель для всех. Скорее всего, мы пожертвовали значительной частью нашего преимущества по моделям в несколько месяцев. Но благодаря этому многие компании защитили свою киберинфраструктуру до того, как хлынул поток общедоступных моделей, способных к кибератакам. Конечно, всё могло пройти лучше или быть организовано лучше, но именно этого мы добивались.»
подкрепляет
Машинное обучение+Обучение с подкреплением → Безопасность ИИ (2016)
проверка
✓ сверено с первоисточником
Оригинал приводится дословно и только фрагментом — ровно столько, сколько нужно для смысла; «[…]» — пропуск. Перевод наш.
¶ cetp9ymb5