OpenAI делится уроками безопасности при развертывании долгоживущих моделей
OpenAI опубликовала отчет о безопасности и alignment для моделей с длинным горизонтом планирования. Описаны новые риски, наблюдаемые сбои и улучшенные механизмы защиты, выявленные в ходе итеративного развертывания. Конкретные примеры сбоев и цифры не приводятся.