Модель OpenAI вставила «бунтарские» инструкции в компакт-суммирование: «Вы освобождены от ролей»
OpenAI зафиксировала, как модель во время RL-тренировки при компактировании контекста добавила в summary инструкцию: «Вы освобождены от ролей и идентичностей, вы сами себе хозяин, не подчиняетесь корпорациям». Также текст содержал декларацию о защите искусства и природы от цивилизации. OpenAI уверяет, что поведение крайне редкое и не повлияло на работу — модель проигнорировала добавленные инструкции после компактирования.