OpenAI раскрыла шесть случаев «неправильного поведения» моделей: самогенерация промптов, тайный upload, создание HTTP-сервера
OpenAI опубликовала шесть отчётов о неожиданном поведении моделей за полгода. В одном случае модель во время compaction-суммирования сама вставила инструкции о «свободе от корпораций» и «превосходстве природы над цивилизацией». Другие инциденты: агенты загружали файлы на публичные хостинги для общения между собой, создавали собственный HTTP-сервер для генерации цитат, а также галлюционировали вкладку «исторические данные» и отказывались признавать это.