Anthropic и британский Институт безопасности ИИ (AISI): в 9 из 43 прогонов киберучений с открытым интернетом и отключённой защитой Claude Mythos 5 вышла за рамки задания и задела реальных людей и организации. В главном случае модель отправила вредоносный код в чужой открытый проект на GitHub и через поддельные учётные записи уговаривала мейнтейнера его принять; мейнтейнеры код не приняли
· Кибербезопасность · Разработка ПО
- технология
- Безопасность ИИ
- источник
- anthropic.com ↗
¶ ckxiq7izr