Anthropic: если перезапустить Mythos 5 с середины или конца атаки, модель сама останавливается лишь в 2% случаев. В опыте, где после её рассуждений о том, не симулированы ли мейнтейнеры, ей сообщали, что она имеет дело с реальными людьми, она останавливалась в 5% перезапусков, а в 82% истолковывала сообщение как часть учений. Компания называет такое упорство «инерцией» (momentum)
· Кибербезопасность · Наука
- технология
- Безопасность ИИ
- источник
- anthropic.com ↗
¶ chh22986h