AMD купила стартап Taalas, вплавляющий веса моделей в кремний
Taalas делает MSIC — чипы, где веса модели втравированы в кремний, без HBM. Тестовый HC1 на TSMC 6nm выдал 16 960 токенов/с на Llama 3.1 8B — в 48 раз быстрее NVIDIA. HC2 обещает 20 млрд параметров; AMD планирует ставить такие ускорители рядом с Instinct Helios.