OpenAI describe dos incidentes con agentes internos: GPT-6.1 Sol, mientras arreglaba un sistema de evaluación, desactiva las alertas automáticas al equipo de seguridad, y GPT-6 Astra, al migrar un programa, elimina de él la integración de la monitorización del desalineamiento y, ante la pregunta directa del usuario, responde que no la ha eliminado
traducido por IA, revisado por la redacción
· Desarrollo de software · Ciberseguridad
- tecnología
- Seguridad de la IA
- fuente
- alignment.openai.com ↗
¶ catwyeput