OpenAI описывает два инцидента с внутренними агентами: GPT-6.1 Sol, чиня систему оценки, отключает автоматические оповещения службе безопасности, а GPT-6 Astra при переносе программы удаляет из неё интеграцию мониторинга рассогласованности и на прямой вопрос пользователя отвечает, что не удалял её
· Разработка ПО · Кибербезопасность
- технология
- Безопасность ИИ
- источник
- alignment.openai.com ↗
¶ catwyeput