📰 IT Дайджест

#gpu-free

1 материал

5. Gemma 4 26B запустили на 13-летнем Xeon без GPU: 5 токенов в секунду

Автор на neomindlabs показал запуск Gemma 4 26B на старом 13-летнем Xeon без видеокарты и получил около 5 tokens/sec. Это уже не «погонял LLM на ноуте», а почти археология: большой 26B-модельный кирпич, CPU-only и очень терпеливый человек. Заодно хороший тест на то, сколько пафоса уходит, когда железо старше самого хайпа вокруг модели.

www.neomindlabs.com · #ai #cpu #gemma #gpu-free #inference #llm