Anthropic: si se relanza Mythos 5 desde la mitad o el final de un ataque, el modelo se detiene por sí solo apenas en el 2% de los casos. En un experimento en el que, después de que el modelo razonara sobre si los mantenedores eran simulados, se le decía que estaba tratando con personas reales, se detuvo en el 5% de los relanzamientos y en el 82% interpretó el mensaje como parte del ejercicio. La empresa llama a esta persistencia «impulso» (momentum)
traducido por IA, revisado por la redacción
· Ciberseguridad · Ciencia
- tecnología
- Seguridad de la IA
- fuente
- anthropic.com ↗
¶ chh22986h