Xiaomi показала процессор Xring O3 с ядрами C1-Ultra: 21 порт исполнения, поддержка SME2 и SVE2, 44 МБ кэша. В однопотоке примерно на уровне Apple, в многопотоке — быстрее, но Apple может ответить новым процессором.
twitter.com · #hardware #arm #cpu #performance #xiaomi
Xiaomi опубликовала разбор оптимизаций инференса для серии MiMo-V2.5 и называет это full-pipeline optimization. Само по себе это обычно означает скучную, но полезную работу: где-то подрезали latency, где-то лучше распараллелили этапы, где-то выжали лишние проценты из движка, чтобы модель меньше ела железо и больше отрабатывала запросы.
mimo.xiaomi.com · #ai #device #gpu #inference #optimization #xiaomi