Meta* открыла веса Muse Spark Open: 816B параметров, 42B активных, контекст до 1M токенов
Meta* (признана экстремистской и запрещена в РФ) выложила Muse Spark Open — открытую MoE-модель с 816 млрд параметров, 42 млрд активных на токен, 256 экспертами (8 на токен) и окном до 1M токенов. На входе текст, картинки, аудио и видео, на выходе — текст; BF16-чекпоинт занимает ~1.5 TB и требует четыре узла по восемь H200, а NVFP4-версия помещается на один B200. Модель заточена под агентный кодинг: чтение кодовой базы, отладка, вызов инструментов.