OpenAI улучшила кэширование промптов в GPT-6 — выше hit rate и новые контролы
GPT-6 получил улучшенное кэширование промптов: более высокий процент попаданий, новые диагностические метрики, явные точки разрыва кэша и средства управления для снижения задержек и стоимости. Подробности — в блоге OpenAI.