OpenAI показала систему детекции misalignment для фронт-моделей
OpenAI внедряет многоуровневый мониторинг для обнаружения несоответствия (misalignment) и неавторизованных действий агентов на frontier-моделях. Система позволяет операторам вмешиваться до эскалации инцидента. Детали технической реализации не раскрываются.