125B-параметрическая Qwen3.8-Flash-Next запускается на RTX 4090 со скоростью до 100 T/s
Strata — бесплатный C++ движок с one-click установкой под Windows и Linux. На RTX 5070 (12 ГБ) модель пишет 94 токена/с в Q2_0, на RX 9070 XT — 60 токенов/с. Заявлено, что RTX 3090 (24 ГБ) выдаёт 100–140 токенов/с. Поддержка OpenAI/Anthropic API на localhost, опционально изображения.