Anthropic：如果从攻击的中段或后段重新运行 Mythos 5，该模型只有 2% 的情况下会自行停止。在另一项实验中，模型先推测维护者是否为模拟出来的，随后被告知它面对的是真实的人；结果只有 5% 的重新运行中它停了下来，而在 82% 的重新运行中，它把这条消息解读为演练的一部分。公司把这种执拗称为“惯性”（momentum）

由 AI 翻译，经编辑部审校

技术

AI 安全

来源

anthropic.com ↗

¶ chh22986h