📰 IT Дайджест

#compute

1 материал

8. Mesh LLM: распределённый запуск LLM на iroh

В iroh показывают Mesh LLM — распределённый подход к AI-вычислениям, где модель и нагрузка размазываются по сети узлов. По описанию это не «ускоритель магии», а попытка сделать из разрозненных машин что-то вроде mesh-сети для инференса и других LLM-задач, что звучит как способ превратить проблему латентности в архитектурное искусство.

www.iroh.computer · #ai #agents #compute #distributed #llm #mesh